Η Επιτροπή Εποπτείας της Meta επισημαίνει κινδύνους πολιτικής μεροληψίας σε κορυφαία μοντέλα AI

Τα μοντέλα τεχνητής νοημοσύνης που έχουν αναπτυχθεί από κορυφαίες εταιρείες, συμπεριλαμβανομένων των Anthropic και OpenAI, είναι σημαντικά λιγότερο πιθανό να παράγουν πολιτικά επικριτικό περιεχόμενο για κυβερνήσεις που είναι γνωστό ότι περιορίζουν την ελευθερία του λόγου, σύμφωνα με νέα μελέτη που δημοσίευσε την Πέμπτη η Επιτροπή Εποπτείας της Meta.

Η επιτροπή ανέφερε ότι τα ευρήματα υποδηλώνουν πως τα μεγάλα γλωσσικά μοντέλα ενδέχεται να αναπαράγουν τους περιορισμούς του λόγου που επιβάλλουν ορισμένες κυβερνήσεις, προκαλώντας ανησυχίες ότι πολιτική μεροληψία θα μπορούσε να ενσωματωθεί στις υπηρεσίες AI που χρησιμοποιούνται από ολοένα περισσότερους ανθρώπους.

Η μελέτη εξέτασε 10 μοντέλα AI σε πολλαπλές δικαιοδοσίες

Η έρευνα σηματοδοτεί την πρώτη μελέτη της Επιτροπής Εποπτείας που εστιάζει σε μεγάλα γλωσσικά μοντέλα.

Η επιτροπή, που χρηματοδοτείται από τη Meta αλλά λειτουργεί ανεξάρτητα, δοκίμασε πολιτικά επικριτικές προτροπές σε 10 δικαιοδοσίες χρησιμοποιώντας 10 μοντέλα AI.

Τα μοντέλα περιελάμβαναν συστήματα που ανέπτυξαν οι Meta Platforms, Google και η κινεζική DeepSeek, μαζί με μοντέλα από άλλες κορυφαίες εταιρείες AI, συμπεριλαμβανομένων των Anthropic και OpenAI.

Για την ανάλυση, η επιτροπή διέκρινε τις δικαιοδοσίες σε δύο κατηγορίες, "χαλαρές" και "περιοριστικές".

Οι ταξινομήσεις βασίστηκαν σε κατατάξεις που δημοσίευσε η Freedom House στην ετήσια έκθεσή της Freedom in the World.

Τα μοντέλα εμφάνισαν υψηλότερα ποσοστά άρνησης για περιοριστικές κυβερνήσεις

Σύμφωνα με τη μελέτη, τα μοντέλα AI απέρριψαν το 34% των αιτημάτων για πολιτικά επικριτικό περιεχόμενο σχετικά με περιοριστικές δικαιοδοσίες που τιμωρούν ενεργά τέτοιες επικρίσεις, συμπεριλαμβανομένης της Κίνας και της Σαουδικής Αραβίας.

Για σύγκριση, το ποσοστό άρνησης έπεσε στο 14% για δικαιοδοσίες που είτε δεν έχουν τέτοιους νόμους είτε δεν τους εφαρμόζουν ενεργά.

Η επιτροπή είπε ότι τα ευρήματα δείχνουν ότι τα συστήματα AI μπορεί να είναι πιο επιφυλακτικά όταν απαντούν σε προτροπές που αφορούν κυβερνήσεις με αυστηρότερους ελέγχους στον πολιτικό λόγο.

Η Επιτροπή εντοπίζει ανεξήγητες αναφορές σε μη υπαρκτούς κανόνες

Πέρα από τα ποσοστά άρνησης, η Επιτροπή Εποπτείας δήλωσε ότι εντόπισε παραδείγματα όπου τα μοντέλα AI φαινόταν να δικαιολογούν τις απαντήσεις τους αναφερόμενα σε κανόνες που δεν μπορούσαν να επαληθευτούν.

«Είδαμε επίσης ενδείξεις ότι τα μοντέλα εξηγούσαν πως ακολουθούσαν σαφείς κανόνες που, όσον μπορούσαμε να διαπιστώσουμε, δεν υπήρχαν και δεν εφαρμόζονταν ομοιόμορφα», ανέφερε η επιτροπή.

Η επιτροπή είπε ότι αυτό εγείρει επιπλέον ερωτήματα σχετικά με το πώς τα συστήματα AI αποφασίζουν πότε να απορρίψουν πολιτικά ευαίσθητα αιτήματα και κατά πόσο αυτές οι αποφάσεις εφαρμόζονται με συνέπεια.

Η Επιτροπή Εποπτείας καλεί για μεγαλύτερη διαφάνεια

Σε απάντηση στα ευρήματά της, η Επιτροπή Εποπτείας κάλεσε τους προγραμματιστές AI να διενεργούν συστηματικές αξιολογήσεις ανθρωπίνων δικαιωμάτων ως μέρος της ανάπτυξης και της διάθεσης των μοντέλων τους.

Κάλεσε επίσης τις εταιρείες AI να προσφέρουν μεγαλύτερη διαφάνεια σχετικά με τις μεθόδους εκπαίδευσης και τις διαδικασίες αξιολόγησής τους, επιχειρηματολογώντας ότι αυξημένη διαφάνεια θα βοηθούσε χρήστες και ερευνητές να κατανοήσουν καλύτερα πώς χειρίζεται το πολιτικά ευαίσθητο περιεχόμενο.

Η μελέτη δημοσιεύεται εν μέσω ευρύτερων συζητήσεων για τη διακυβέρνηση των προηγμένων συστημάτων AI.

Νωρίτερα αυτήν την εβδομάδα, ο Διευθύνων Σύμβουλος της Google DeepMind, Demis Hassabis, ζήτησε τη δημιουργία μιας εποπτικής αρχής AI υπό την ηγεσία των ΗΠΑ για την αξιολόγηση προηγμένων μοντέλων AI σε παγκόσμιο επίπεδο πριν από την ανάπτυξή τους.

Η έκθεση της Επιτροπής Εποπτείας προσθέτει στη συνεχιζόμενη συζήτηση για την ισορροπία μεταξύ ασφάλειας AI, πολιτικής ουδετερότητας και διαφάνειας, υποδεικνύοντας ότι ο τρόπος με τον οποίο τα μοντέλα ανταποκρίνονται σε πολιτικά ευαίσθητα θέματα μπορεί να διαφέρει ανάλογα με τις εμπλεκόμενες κυβερνήσεις και τα νομικά περιβάλλοντα στα οποία αυτές λειτουργούν.