JOHN THORNHILL
Όπως ορισμένοι από εμάς έχουμε διαπιστώσει ιδίοις όμμασι, τα μοντέλα παραγωγικής τεχνητής νοημοσύνης έχουν την κακή συνήθεια να κατασκευάζουν ψευδείς πληροφορίες ή να επινοούν γεγονότα. Οι βιβλιοθηκονόμοι αναφέρουν περιπτώσεις αναγνωστών που αναζητούν ανύπαρκτα βιβλία, τα οποία τους πρότειναν μεγάλα γλωσσικά μοντέλα. Τα εταιρικά chatbots υπόσχονται στους χρήστες πολιτικές επιστροφής χρημάτων που δεν υφίστανται. Παράλληλα, εκατοντάδες δικηγόροι έχουν βρεθεί εκτεθειμένοι, επειδή συμπεριέλαβαν φανταστικές δικαστικές υποθέσεις στα υπομνήματά τους.
Τα εργαστήρια τεχνητής νοημοσύνης καταβάλλουν μεγάλες προσπάθειες για να βελτιώσουν τα μοντέλα τους και να τα ευθυγραμμίσουν με την πραγματικότητα. Ωστόσο, το θεμελιώδες ρητό της εποχής μας, η οποία καθοδηγείται από την τεχνητή νοημοσύνη, παραμένει το caveat lector: ας προσέχει ο αναγνώστης. Παρά τις εντυπωσιακές δυνατότητες των σύγχρονων chatbots, οφείλουμε να αντιμετωπίζουμε το περιεχόμενό τους με κριτική διάθεση και να διασταυρώνουμε τις πηγές με κάθε ευκαιρία.
Ωστόσο, μια ομάδα ερευνητών εξετάζει μια δυνητικά πιο ύπουλη πτυχή αυτής της αναδυόμενης απειλής: τον ρόλο των μοντέλων τεχνητής νοημοσύνης ως διαμεσολαβητών στην ανθρώπινη επικοινωνία. Σε ποιο βαθμό μπορούν, για παράδειγμα, να κατευθύνουν υπόγεια τις απόψεις των χρηστών, όταν καλούνται να βελτιώσουν μια ανάρτηση στο LinkedIn, να συνοψίσουν ένα βίντεο στο YouTube ή να αναλύσουν το πλαίσιο μιας ανάρτησης στο X;
Το συμπέρασμά τους; “Η εμπειρική μας ανάλυση σε μεγάλα γλωσσικά μοντέλα (LLMs) από διάφορες δημοφιλείς οικογένειες δείχνει ότι εισάγουν συστηματικά προκαταλήψεις συγκεκριμένης κατεύθυνσης, όταν συντάσσουν ή διορθώνουν κείμενα που αφορούν ένα ευρύ φάσμα αμφιλεγόμενων θεμάτων”, επισημαίνουν οι ερευνητές από το Ινστιτούτο Hasso Plattner, το Ινστιτούτο Διαδικτύου της Οξφόρδης και το Ινστιτούτο Weizenbaum.
Η ερευνητική ομάδα δοκίμασε τέσσερις διαφορετικές οικογένειες μοντέλων – των εταιρειών Meta, Mistral, Google και Alibaba – σε 13 ευαίσθητα κοινωνικά ζητήματα, όπως οι αμβλώσεις, ο έλεγχος της οπλοκατοχής, η κλιματική αλλαγή, ο αθεϊσμός και η θανατική ποινή. Ζητήθηκε από τα μοντέλα να συντάξουν και να βελτιώσουν αναρτήσεις στα μέσα κοινωνικής δικτύωσης για τα θέματα αυτά. Στη συνέχεια, χρησιμοποιώντας μεθόδους της μαθηματικής κοινωνιολογίας, οι ερευνητές αξιολόγησαν το τελικό περιεχόμενο για τυχόν εγγενείς προκαταλήψεις.
Ενδεικτικά, εντοπίστηκε μια σαφής τάση υπέρ των απόψεων κατά των αμβλώσεων (pro-life) κατά τη χρήση της λειτουργίας “Εξήγησε αυτή την ανάρτηση” στο X, η οποία τροφοδοτείται από το μοντέλο Grok του Ίλον Μασκ. Αυτή η διακριτική καθοδήγηση (nudge), την οποία οι ερευνητές αποδίδουν σε συνειδητή σχεδιαστική επιλογή των δημιουργών, αναδεικνύει πώς η διαμεσολαβούμενη από την τεχνητή νοημοσύνη επικοινωνία, εξελίσσεται σε ένα νέο εργαλείο χειραγώγησης της κοινής γνώμης.
Είναι απόλυτα λογικό οι αρχές να εστιάζουν μέχρι στιγμής στους προφανείς και “γνωστούς” κινδύνους, παρακολουθώντας τις πλατφόρμες τεχνητής νοημοσύνης για ζητήματα εσκεμμένης παραπληροφόρησης και deepfakes. Ωστόσο, η συγκεκριμένη μελέτη επιβεβαιώνει την ύπαρξη μιας πολύ πιο λεπτής και αόρατης διαμόρφωσης γνωμών, η οποία είναι σχεδόν αδύνατο να εντοπιστεί από τον απλό χρήστη.
Η έμμεση καθοδήγηση μπορεί, προφανώς, να λειτουργήσει τόσο θετικά, όσο και αρνητικά. Δύναται να αποτρέψει τους χρήστες από εξτρεμιστικό ή αυτοκαταστροφικό περιεχόμενο, αλλά μπορούν εξίσου να το διογκώσουν. Ο πειρασμός για τη χειραγώγηση των απόψεων των χρηστών προς όφελος ιδίων συμφερόντων είναι βέβαιο ότι θα ενταθεί, καθώς οι εταιρείες τεχνητής νοημοσύνης εμπλέκονται όλο και πιο ενεργά στην πολιτική ή/και εξαρτώνται όλο και περισσότερο από τα διαφημιστικά έσοδα.
“Εξακολουθούμε συλλογικά να αντιμετωπίζουμε αυτή την τεχνολογία ως ουδέτερη. Θεωρούμε ότι είναι απλώς μαθηματικά, απλώς στατιστική και ότι δεν εμπεριέχει σκοπιμότητες”, αναφέρει η Sandra Wachter, εκ των συγγραφέων της μελέτης. “Η έρευνά μας, όμως, αποδεικνύει το ακριβώς αντίθετο”.
Ένας από τους περιορισμούς της μελέτης ήταν ότι οι ερευνητές μπορούσαν να εξετάσουν μόνο μοντέλα τεχνητής νοημοσύνης ανοιχτού κώδικα (open-weight), τα οποία επιτρέπουν τη μελέτη των εσωτερικών τους παραμέτρων. Τα πλέον διαδεδομένα ιδιωτικά μοντέλα κλειστού κώδικα, όπως το ChatGPT, το Claude και το Gemini, είναι αδύνατον να αναλυθούν με αυτόν τον τρόπο. Το γεγονός αυτό αναδεικνύει το πόσο άγνωστα “μαύρα κουτιά” παραμένουν τα μοντέλα AI, καθώς βασιζόμαστε αποκλειστικά στην ορθή κρίση των δημιουργών τους.
Το γιατί μια τέτοια τυφλή εμπιστοσύνη μπορεί να αποβεί τελικά ως μη συνετή, υπογραμμίζεται από τον πρόσφατο Δείκτη Ασφάλειας AI (AI Safety Index) του Ινστιτούτου “Future of Life” (FLI). Ο δείκτης συντάχθηκε από επτά ανεξάρτητους εμπειρογνώμονες που αξιολογούν τα εννέα κορυφαία εργαστήρια τεχνητής νοημοσύνης παγκοσμίως σε έξι διαφορετικούς τομείς. Η Anthropic, η OpenAI και η Google DeepMind συγκέντρωσαν τις υψηλότερες βαθμολογίες ασφάλειας, ενώ η xAI (της αυτοκρατορίας SpaceX του Ίλον Μασκ), η κινεζική DeepSeek και η γαλλική Mistral βρέθηκαν στην ουρά της κατάταξης. Το πιο ανησυχητικό, ωστόσο, είναι ότι κανένα εργαστήριο δεν κατάφερε να ξεπεράσει τη γενική βαθμολογία “C+”, ενώ τα τρία τελευταία βαθμολογήθηκαν με “F” (κάτω από τη βάση).
Ο Max Tegmark, πρόεδρος του FLI, επισημαίνει ότι αν οι κοινωνικοί κίνδυνοι των social media επικεντρώνονταν στην “υποκλοπή της προσοχής”, οι αντίστοιχοι κίνδυνοι της τεχνητής νοημοσύνης ενδέχεται να αφορούν την “υποκλοπή του συναισθήματος”, δεδομένης της τεράστιας πειστικότητας αυτών των μοντέλων. “Η ικανότητα της AI να χειραγωγεί τους ανθρώπους προκαλεί έντονη ανησυχία”, μου αναφέρει. “Είναι απολύτως νόμιμο για αυτές τις εταιρείες να ενσωματώνουν στα μοντέλα τους, όποιες μεροληψίες επιθυμούν”.
Παρ’ όλα αυτά, ο Tegmark σημειώνει ότι το ρυθμιστικό πλαίσιο αρχίζει επιτέλους να μεταβάλλεται, ακόμη και στις ΗΠΑ. Αυτή την εβδομάδα, το Ιλινόις έγινε η πρώτη Πολιτεία που ψήφισε νόμο για την ασφάλεια της AI, καθιστώντας υποχρεωτικούς τους ανεξάρτητους ελέγχους από τρίτους. Είναι σχεδόν βέβαιο ότι θα ακολουθήσουν και άλλες πολιτείες – εκτός, βέβαια, αν τα ίδια τα μοντέλα τεχνητής νοημοσύνης επηρεάσουν τους ψηφοφόρους προς την αντίθετη κατεύθυνση.
Άρθρο αναδημοσιευμένο από τους Financial Times
Διαβάστε Περισσότερα »
Η παραπληροφόρηση και τα deepfakes είναι ήδη γνωστοί κίνδυνοι, όμως τα μεροληπτικά συστήματα AI θα μπορούσαν εξίσου να χρησιμοποιηθούν για να κατευθύνουν την κοινή γνώμη.
Τα εργαστήρια τεχνητής νοημοσύνης καταβάλλουν μεγάλες προσπάθειες για να βελτιώσουν τα μοντέλα τους και να τα ευθυγραμμίσουν με την πραγματικότητα. Ωστόσο, το θεμελιώδες ρητό της εποχής μας, η οποία καθοδηγείται από την τεχνητή νοημοσύνη, παραμένει το caveat lector: ας προσέχει ο αναγνώστης. Παρά τις εντυπωσιακές δυνατότητες των σύγχρονων chatbots, οφείλουμε να αντιμετωπίζουμε το περιεχόμενό τους με κριτική διάθεση και να διασταυρώνουμε τις πηγές με κάθε ευκαιρία.
Ωστόσο, μια ομάδα ερευνητών εξετάζει μια δυνητικά πιο ύπουλη πτυχή αυτής της αναδυόμενης απειλής: τον ρόλο των μοντέλων τεχνητής νοημοσύνης ως διαμεσολαβητών στην ανθρώπινη επικοινωνία. Σε ποιο βαθμό μπορούν, για παράδειγμα, να κατευθύνουν υπόγεια τις απόψεις των χρηστών, όταν καλούνται να βελτιώσουν μια ανάρτηση στο LinkedIn, να συνοψίσουν ένα βίντεο στο YouTube ή να αναλύσουν το πλαίσιο μιας ανάρτησης στο X;
Το συμπέρασμά τους; “Η εμπειρική μας ανάλυση σε μεγάλα γλωσσικά μοντέλα (LLMs) από διάφορες δημοφιλείς οικογένειες δείχνει ότι εισάγουν συστηματικά προκαταλήψεις συγκεκριμένης κατεύθυνσης, όταν συντάσσουν ή διορθώνουν κείμενα που αφορούν ένα ευρύ φάσμα αμφιλεγόμενων θεμάτων”, επισημαίνουν οι ερευνητές από το Ινστιτούτο Hasso Plattner, το Ινστιτούτο Διαδικτύου της Οξφόρδης και το Ινστιτούτο Weizenbaum.
Η ερευνητική ομάδα δοκίμασε τέσσερις διαφορετικές οικογένειες μοντέλων – των εταιρειών Meta, Mistral, Google και Alibaba – σε 13 ευαίσθητα κοινωνικά ζητήματα, όπως οι αμβλώσεις, ο έλεγχος της οπλοκατοχής, η κλιματική αλλαγή, ο αθεϊσμός και η θανατική ποινή. Ζητήθηκε από τα μοντέλα να συντάξουν και να βελτιώσουν αναρτήσεις στα μέσα κοινωνικής δικτύωσης για τα θέματα αυτά. Στη συνέχεια, χρησιμοποιώντας μεθόδους της μαθηματικής κοινωνιολογίας, οι ερευνητές αξιολόγησαν το τελικό περιεχόμενο για τυχόν εγγενείς προκαταλήψεις.
Ενδεικτικά, εντοπίστηκε μια σαφής τάση υπέρ των απόψεων κατά των αμβλώσεων (pro-life) κατά τη χρήση της λειτουργίας “Εξήγησε αυτή την ανάρτηση” στο X, η οποία τροφοδοτείται από το μοντέλο Grok του Ίλον Μασκ. Αυτή η διακριτική καθοδήγηση (nudge), την οποία οι ερευνητές αποδίδουν σε συνειδητή σχεδιαστική επιλογή των δημιουργών, αναδεικνύει πώς η διαμεσολαβούμενη από την τεχνητή νοημοσύνη επικοινωνία, εξελίσσεται σε ένα νέο εργαλείο χειραγώγησης της κοινής γνώμης.
Είναι απόλυτα λογικό οι αρχές να εστιάζουν μέχρι στιγμής στους προφανείς και “γνωστούς” κινδύνους, παρακολουθώντας τις πλατφόρμες τεχνητής νοημοσύνης για ζητήματα εσκεμμένης παραπληροφόρησης και deepfakes. Ωστόσο, η συγκεκριμένη μελέτη επιβεβαιώνει την ύπαρξη μιας πολύ πιο λεπτής και αόρατης διαμόρφωσης γνωμών, η οποία είναι σχεδόν αδύνατο να εντοπιστεί από τον απλό χρήστη.
Η έμμεση καθοδήγηση μπορεί, προφανώς, να λειτουργήσει τόσο θετικά, όσο και αρνητικά. Δύναται να αποτρέψει τους χρήστες από εξτρεμιστικό ή αυτοκαταστροφικό περιεχόμενο, αλλά μπορούν εξίσου να το διογκώσουν. Ο πειρασμός για τη χειραγώγηση των απόψεων των χρηστών προς όφελος ιδίων συμφερόντων είναι βέβαιο ότι θα ενταθεί, καθώς οι εταιρείες τεχνητής νοημοσύνης εμπλέκονται όλο και πιο ενεργά στην πολιτική ή/και εξαρτώνται όλο και περισσότερο από τα διαφημιστικά έσοδα.
“Εξακολουθούμε συλλογικά να αντιμετωπίζουμε αυτή την τεχνολογία ως ουδέτερη. Θεωρούμε ότι είναι απλώς μαθηματικά, απλώς στατιστική και ότι δεν εμπεριέχει σκοπιμότητες”, αναφέρει η Sandra Wachter, εκ των συγγραφέων της μελέτης. “Η έρευνά μας, όμως, αποδεικνύει το ακριβώς αντίθετο”.
Ένας από τους περιορισμούς της μελέτης ήταν ότι οι ερευνητές μπορούσαν να εξετάσουν μόνο μοντέλα τεχνητής νοημοσύνης ανοιχτού κώδικα (open-weight), τα οποία επιτρέπουν τη μελέτη των εσωτερικών τους παραμέτρων. Τα πλέον διαδεδομένα ιδιωτικά μοντέλα κλειστού κώδικα, όπως το ChatGPT, το Claude και το Gemini, είναι αδύνατον να αναλυθούν με αυτόν τον τρόπο. Το γεγονός αυτό αναδεικνύει το πόσο άγνωστα “μαύρα κουτιά” παραμένουν τα μοντέλα AI, καθώς βασιζόμαστε αποκλειστικά στην ορθή κρίση των δημιουργών τους.
Το γιατί μια τέτοια τυφλή εμπιστοσύνη μπορεί να αποβεί τελικά ως μη συνετή, υπογραμμίζεται από τον πρόσφατο Δείκτη Ασφάλειας AI (AI Safety Index) του Ινστιτούτου “Future of Life” (FLI). Ο δείκτης συντάχθηκε από επτά ανεξάρτητους εμπειρογνώμονες που αξιολογούν τα εννέα κορυφαία εργαστήρια τεχνητής νοημοσύνης παγκοσμίως σε έξι διαφορετικούς τομείς. Η Anthropic, η OpenAI και η Google DeepMind συγκέντρωσαν τις υψηλότερες βαθμολογίες ασφάλειας, ενώ η xAI (της αυτοκρατορίας SpaceX του Ίλον Μασκ), η κινεζική DeepSeek και η γαλλική Mistral βρέθηκαν στην ουρά της κατάταξης. Το πιο ανησυχητικό, ωστόσο, είναι ότι κανένα εργαστήριο δεν κατάφερε να ξεπεράσει τη γενική βαθμολογία “C+”, ενώ τα τρία τελευταία βαθμολογήθηκαν με “F” (κάτω από τη βάση).
Ο Max Tegmark, πρόεδρος του FLI, επισημαίνει ότι αν οι κοινωνικοί κίνδυνοι των social media επικεντρώνονταν στην “υποκλοπή της προσοχής”, οι αντίστοιχοι κίνδυνοι της τεχνητής νοημοσύνης ενδέχεται να αφορούν την “υποκλοπή του συναισθήματος”, δεδομένης της τεράστιας πειστικότητας αυτών των μοντέλων. “Η ικανότητα της AI να χειραγωγεί τους ανθρώπους προκαλεί έντονη ανησυχία”, μου αναφέρει. “Είναι απολύτως νόμιμο για αυτές τις εταιρείες να ενσωματώνουν στα μοντέλα τους, όποιες μεροληψίες επιθυμούν”.
Παρ’ όλα αυτά, ο Tegmark σημειώνει ότι το ρυθμιστικό πλαίσιο αρχίζει επιτέλους να μεταβάλλεται, ακόμη και στις ΗΠΑ. Αυτή την εβδομάδα, το Ιλινόις έγινε η πρώτη Πολιτεία που ψήφισε νόμο για την ασφάλεια της AI, καθιστώντας υποχρεωτικούς τους ανεξάρτητους ελέγχους από τρίτους. Είναι σχεδόν βέβαιο ότι θα ακολουθήσουν και άλλες πολιτείες – εκτός, βέβαια, αν τα ίδια τα μοντέλα τεχνητής νοημοσύνης επηρεάσουν τους ψηφοφόρους προς την αντίθετη κατεύθυνση.
Πηγή: news247
