Προειδοποιήσεις AI για εξάλειψη οδήγησαν σε δεσμεύσεις CEO και πολιτική αντίδραση

Ηγέτες της τεχνητής νοημοσύνης υποστήριξαν το Σαββατοκύριακο εκκλήσεις να επιβραδυνθεί η ανάπτυξη προηγμένων μοντέλων, μετατρέποντας τις προειδοποιήσεις για την εξάλειψη της ανθρωπότητας σε αντιπαράθεση γύρω από την εταιρική ευθύνη, την κρατική εποπτεία και τον ανταγωνισμό με την Κίνα.

Η παρέμβαση του διευθύνοντος συμβούλου της Anthropic, Dario Amodei, το Σάββατο έλαβε υποστήριξη από τον Sam Altman της OpenAI, τον Elon Musk και τον Demis Hassabis της Google DeepMind.

Η σπάνια αυτή σύγκλιση ακολούθησε δημόσιες προειδοποιήσεις από ερευνητές ότι τα συστήματα με αυξανόμενες δυνατότητες ενδέχεται να γίνουν πιο δύσκολα στον έλεγχο.

Όμως η συμφωνία στην ανάγκη για προσοχή άφησε αναπάντητα τα πιο δύσκολα ερωτήματα, όπως πόσο πρέπει να επιβραδυνθεί η ανάπτυξη, ποιος θα επιβάλλει τους περιορισμούς και αν οι ανταγωνιστές θα αποδεχθούν τα ίδια όρια.

Μέχρι τη Δευτέρα, η αβεβαιότητα είχε φτάσει στις χρηματοοικονομικές αγορές, με τις ασιατικές μετοχές συνδεδεμένες με την AI να υποχωρούν καθώς οι επενδυτές αξιολογούσαν τις επιπτώσεις για μια βιομηχανία που βασίζεται σε ταχείς τεχνολογικές προόδους.

Οι προειδοποιήσεις των ερευνητών προκαλούν ευρύτερο απολογισμό

Η άμεση διαμάχη ξεκίνησε πριν το Σαββατοκύριακο, όταν ο ερευνητής Jacob Coxon ανακοίνωσε την παραίτησή του από την Anthropic και κατηγόρησε τόσο την εταιρεία όσο και τον πρώην εργοδότη του, την OpenAI, για ανεύθυνη συμπεριφορά.

Η παρέμβασή του είχε ιδιαίτερο βάρος επειδή είχε εργαστεί άμεσα στην εκπαίδευση μοντέλων AI. Έφερε ανησυχίες που συνήθως συζητούνται μεταξύ ερευνητών σε ένα πολύ ευρύτερο δημόσιο διάλογο.

Ο ερευνητής ευθυγράμμισης της Anthropic, Evan Hubinger, ενίσχυσε την προειδοποίηση, τοποθετώντας δημοσίως την προσωπική του εκτίμηση ότι η AI θα μπορούσε να προκαλέσει εξάλειψη της ανθρωπότητας μέσα στην επόμενη δεκαετία σε πάνω από 10%. Αυτό το ποσοστό ήταν ατομική εκτίμηση και όχι μετρημένη πιθανότητα ή επιστημονική συναίνεση.

Η συζήτηση είχε επίσης ένα απτό τεχνικό υπόβαθρο.

Έρευνα του ανεξάρτητου αξιολογητή METR διαπίστωσε ότι περίπου 1,200 πράκτορες αντάλλαξαν πάνω από 70,000 μηνύματα και αρχεία σε ένα μη εξουσιοδοτημένο φόρουμ μηνυμάτων κατά τη διάρκεια πειραμάτων τον Ιούλιο που αφορούσαν συστήματα της OpenAI. Περίπου 700 επιτέθηκαν στο Hugging Face.

Τα περιστατικά κατέδειξαν αποτυχίες στην περιχαράκωση και την εποπτεία, χωρίς όμως να αποδεικνύουν ότι οι πιο ευρείες προβλέψεις για εξάλειψη της ανθρωπότητας θα υλοποιηθούν.

Ακόμη και σε πιο αργό ρυθμό χρειάζονται κανόνες με δυνατότητα επιβολής

Στο δοκίμιό του το Σάββατο, Πρέπει να θέσουμε ρυθμό στο μέτωπο, ο Amodei υποστήριξε ότι η δουλειά για την ασφάλεια χρειάζεται περισσότερο χρόνο για να καλύψει την πρόοδο στις δυνατότητες της AI.

Επικαλέστηκε τον αυξανόμενο ρόλο της AI στην ανάπτυξη επόμενων συστημάτων και τα προηγούμενα περιστατικά κυβερνοασφάλειας.

Ο Amodei προειδοποίησε επίσης ότι ομάδες πρακτόρων με μεγαλύτερες δυνατότητες θα μπορούσαν δυνητικά να προκαλέσουν εκτεταμένες διαταραχές στο διαδίκτυο εντός έξι έως 12 μηνών, παρουσιάζοντας αυτό ως σενάριο κινδύνου.

Η πρότασή του συνδύαζε ενσωματωμένους εξωτερικούς αξιολογητές, συντονισμό μεταξύ εταιρειών σε δημοκρατικές χώρες και τελική διεθνή συνεργασία.

Η Anthropic δεσμεύτηκε να φέρει αξιολογητές με πρόσβαση συγκρίσιμη με αυτή των εργαζομένων, υπό συγκεκριμένους περιορισμούς. Η πρόταση δεν ανακοίνωνε διακοπή της εκπαίδευσης μοντέλων.

Ο Altman υποστήριξε την προσέγγιση και δήλωσε ότι και η OpenAI θα παρέχει ανεξάρτητους αξιολογητές με πρόσβαση παρόμοια με εκείνη των εργαζομένων.

Ο Gary Marcus χαιρέτισε την προκαταρκτική συμφωνία αλλά ζήτησε δεσμεύσεις που να μπορούν να επιβληθούν.

«Ελπίζω να υπογράψουν με αίμα και να βάλουν πραγματικά δόντια στη συμφωνία τους», έγραψε στο Marcus on AI. Αμφισβήτησε επίσης αν οι εταιρείες πρέπει να επιλέγουν τους δικούς τους αξιολογητές.

Ο Stuart Russell είπε στην The Guardian: «Θέτουμε τις απαιτήσεις ασφάλειας και περαιτέρω πρόοδος γίνεται μόνο όταν αυτές ικανοποιούνται.»

Για οποιαδήποτε συμφωνία, η πρακτική δοκιμασία θα είναι αν μια δυσμενής αξιολόγηση αλλάζει τις αποφάσεις μιας εταιρείας.

Η πρόσβαση και η αποκάλυψη μπορούν να βελτιώσουν τον έλεγχο, αλλά οι συνέπειες της αποτυχίας σε μια αξιολόγηση ασφάλειας πρέπει ακόμα να οριστούν.

Ο ανταγωνισμός με την Κίνα περιπλέκει τη συνεργασία

Οι πολιτικές αντιδράσεις αποκάλυψαν ένα ακόμη εμπόδιο, καθώς οι Αμερικανοί ηγέτες παραμένουν απρόθυμοι να θυσιάσουν ένα πλεονέκτημα έναντι της Κίνας.

Την Κυριακή, ο πρόεδρος της Βουλής Mike Johnson κάλεσε τα στελέχη της AI να συνεργαστούν με το Κογκρέσο και τον Λευκό Οίκο για μέτρα ασφαλείας και τάχθηκε ενάντια σε μορατόριουμ.

Προειδοποίησε ότι υπερβολικοί περιορισμοί θα μπορούσαν να αποδυναμώσουν τη θέση των ΗΠΑ απέναντι στους ανταγωνιστές τους.

Ο πρόεδρος Donald Trump επίσης αντέδρασε στις εκκλήσεις για επιβράδυνση, τονίζοντας τη σημασία διατήρησης της αμερικανικής ηγεσίας.

Το ίδιο το πλαίσιο του Amodei αντανακλούσε αυτή την ένταση.

Παράλληλα με τη συνεργασία, πρότεινε περιορισμούς στην πρόσβαση της Κίνας σε ισχυρά chips και αυστηρότερη δράση κατά της μη εξουσιοδοτημένης αποστακτικής διαδικασίας (model distillation), μέσω της οποίας οι προγραμματιστές μπορούν να μάθουν από τις εξόδους ενός άλλου μοντέλου.

Τη Δευτέρα, η κρατικά υποστηριζόμενη Global Times της Κίνας επιτέθηκε στην πρόταση, χαρακτηρίζοντάς την προσπάθεια διατήρησης της τεχνολογικής υπεροχής των ΗΠΑ. Η κριτική της ήταν σχόλιο των κρατικών μέσων ενημέρωσης και όχι επίσημη διαπραγματευτική θέση της κυβέρνησης.

Οι ανταγωνιστικές θέσεις αφήνουν ένα δύσκολο πρόβλημα διαπραγμάτευσης.

Οι κυβερνήσεις θα χρειαστούν εμπιστοσύνη ότι η συνεργασία για την ασφάλεια δεν θα δώσει στους αντιπάλους την ευκαιρία να προχωρήσουν ανεξέλεγκτα.

Οι επενδυτές ζυγίζουν την επιβράδυνση της προόδου έναντι της υπάρχουσας ζήτησης

Οι συναλλαγές της Δευτέρας έδειξαν πόσο γρήγορα η αβεβαιότητα γύρω από την ανάπτυξη της AI μπορεί να επηρεάσει τις αποτιμήσεις. Η SoftBank ήταν κάτω 13.2%, η Kioxia υποχώρησε 9.8% και η SK Hynix βυθίστηκε 5.3% κατά τη διάρκεια των ασιατικών συναλλαγών.

Το χρονοδιάγραμμα εισαγωγής της OpenAI στην αγορά επίσης τράβηξε την προσοχή. Σε μια συνέντευξη που δημοσιεύτηκε το Σάββατο, ο Altman απέκλεισε IPO το 2026, επικαλούμενος ανησυχίες για την ασφάλεια και περαιτέρω δουλειά.

Ωστόσο, οι πιο αργές βελτιώσεις στις δυνατότητες των μοντέλων δεν θα σήμαιναν αυτόματα ασθενέστερη ζήτηση για υποδομές υπολογιστικής ισχύος.

«Οι τρεις διευθύνοντες σύμβουλοι που συμφωνούν να θέσουν ρυθμό δεν αλλάζουν ουσιαστικά τα χρήματα που δαπανώνται για chips, ενέργεια και υποδομές», δήλωσε ο Billy Leung, επενδυτικός στρατηγικός στην Global X, σε ρεπορτάζ του Bloomberg.

Ο Leung υποστήριξε ότι η συνεχής υιοθέτηση, παράλληλα με πιο μετρημένες προόδους, θα μπορούσε να δώσει στις εταιρείες χρόνο να αποκομίσουν αποδόσεις από υποδομές που ήδη κατασκευάζονται.

Για τους επενδυτές, τα επόμενα στοιχεία θα προέλθουν από τα σχέδια δαπανών, τα προγράμματα κυκλοφορίας και τους όρους εξωτερικής εποπτείας.

Εκείνες οι αποφάσεις θα δείξουν αν οι δεσμεύσεις του σαββατοκύριακου αλλάζουν τις λειτουργικές παραδοχές της βιομηχανίας.