Invezz εξηγεί: Τι είναι η απόσταξη μοντέλων AI και γιατί οι ΗΠΑ κατηγορούν κινεζικές εταιρείες;

Οι υπηρεσίες ασφαλείας των ΗΠΑ έχουν κατηγορήσει έξι κινεζικές εταιρείες τεχνητής νοημοσύνης ότι χρησιμοποιούν συστηματικά αμερικανικά μοντέλα AI για να εκπαιδεύσουν τα δικά τους συστήματα, εφιστώντας εκ νέου την προσοχή σε μια τεχνική διαδικασία γνωστή ως απόσταξη μοντέλων.

Η National Security Agency, το Federal Bureau of Investigation και η Cybersecurity and Infrastructure Security Agency δήλωσαν την Τρίτη ότι οι DeepSeek, Moonshot, Alibaba Group Holding, MiniMax, StepFun και Z.AI συμμετείχαν σε αυτό που περιέγραψαν ως «επιθετικές, κακόβουλες και στοχευμένες δραστηριότητες απόσταξης σε βιομηχανική κλίμακα που εξάγουν περιορισμένες ιδιόκτητες λειτουργίες και ικανότητες από τα αμερικανικά frontier AI μοντέλα.»

Οι υπηρεσίες ανέφεραν ότι οι εταιρείες χρησιμοποιούσαν την απόσταξη τουλάχιστον από το 2024 για να αποκτήσουν πρόσβαση σε πληροφορίες από αμερικανικά μοντέλα AI και να τις χρησιμοποιήσουν για την ανάπτυξη των δικών τους συστημάτων.

Τι είναι η απόσταξη μοντέλων AI;

Η απόσταξη είναι μια τεχνική που χρησιμοποιείται για τη μεταφορά ορισμένων ικανοτήτων ενός μεγάλου, σύνθετου μοντέλου AI σε ένα μικρότερο ή πιο εξειδικευμένο μοντέλο.

Το μεγαλύτερο σύστημα αποκαλείται γενικά «μοντέλο-δάσκαλος», ενώ το μικρότερο «μοντέλο-μαθητής».

Αντί να κατασκευάσουν το μικρότερο μοντέλο από το μηδέν, οι προγραμματιστές το εκπαιδεύουν χρησιμοποιώντας πληροφορίες που παράγει το μοντέλο-δάσκαλος.

Η προσέγγιση τεκμηριώθηκε από τον Geoffrey Hinton και τους συνεργάτες του στη Google το 2015 ως τρόπος συμπίεσης της συμπεριφοράς ενός μεγάλου μοντέλου σε ένα μικρότερο, χρησιμοποιώντας τις εξόδους που παράγει το μεγαλύτερο σύστημα.

Σε πρακτικό επίπεδο, ένας προγραμματιστής μπορεί να ζητήσει από ένα ισχυρό μοντέλο AI να απαντήσει σε μεγάλο αριθμό προτροπών και να χρησιμοποιήσει αυτές τις απαντήσεις ως υλικό εκπαίδευσης για άλλο μοντέλο.

Το μοντέλο-μαθητής μαθαίνει πρότυπα από τις απαντήσεις του δασκάλου και τελικά μπορεί να αναπαράγει ορισμένες από τις ικανότητές του χωρίς να απαιτεί την ίδια κλίμακα υπολογιστικών πόρων.

Το αποτέλεσμα μπορεί να είναι ένα σύστημα AI σημαντικά φθηνότερο και πιο εύκολο στη λειτουργία, διατηρώντας μεγάλο μέρος της απόδοσης του μεγαλύτερου μοντέλου.

Αυτό καθιστά την απόσταξη σημαντικό μέρος των προσπαθειών της βιομηχανίας AI να καταστήσει τα όλο και πιο ικανά μοντέλα πιο αποδοτικά.

Η απόσταξη έχει νόμιμες εφαρμογές σε ολόκληρη τη βιομηχανία AI.

Οι εταιρείες frontier AI μπορούν να χρησιμοποιήσουν την τεχνική για να δημιουργήσουν μικρότερες εκδόσεις των μοντέλων τους που είναι φθηνότερες στη λειτουργία, ταχύτερες στην απόκριση και πιο κατάλληλες για συγκεκριμένες εφαρμογές.

Πότε η απόσταξη γίνεται αμφιλεγόμενη;

Η απόσταξη γίνεται αμφιλεγόμενη όταν μια εταιρεία επιχειρεί να αναπαράγει τις ικανότητες του ιδιόκτητου μοντέλου μιας άλλης εταιρείας χωρίς εξουσιοδότηση.

Ένας ανταγωνιστής μπορεί ενδεχομένως να χρησιμοποιήσει χιλιάδες ή εκατομμύρια αλληλεπιδράσεις με ένα frontier μοντέλο για να δημιουργήσει δεδομένα εκπαίδευσης για το δικό του σύστημα.

Αντί να δαπανήσει χρόνια και τεράστια ποσά για να αναπτύξει παρόμοιες ικανότητες ανεξάρτητα, μπορεί να χρησιμοποιήσει τις απαντήσεις ενός υπάρχοντος μοντέλου ως σύντομη οδό.

Οι υπηρεσίες ασφαλείας των ΗΠΑ δήλωσαν ότι κινεζικές εταιρείες χρησιμοποιούσαν πολλαπλές διαδρομές για να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε αμερικανικά συστήματα AI.

«Οι εταιρείες AI με έδρα την Κίνα δρομολογούν αιτήματα απόσταξης μέσω πολλαπλών διαδρομών για να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση, παραβιάζοντας συνεπώς τους όρους χρήσης των αμερικανικών εταιρειών AI», ανέφεραν στην ανακοίνωση.

Η OpenAI και η Anthropic έχουν ξεχωριστά κατηγορήσει κινεζικές εταιρείες AI ότι προσπάθησαν να εξάγουν ικανότητες από τα μοντέλα τους.

Η Anthropic δήλωσε τον Φεβρουάριο ότι είχε αποκαλύψει εκστρατείες που περιελάμβαναν τους DeepSeek, Moonshot AI και MiniMax που επιδίωκαν να εξάγουν ικανότητες από το chatbot της, Claude.

Σύμφωνα με την Anthropic, οι εκστρατείες περιελάμβαναν περίπου 16 εκατομμύρια ανταλλαγές με τον Claude και 24.000 ψεύτικους λογαριασμούς, με τη MiniMax να ευθύνεται μόνη της για περισσότερες από 13 εκατομμύρια ανταλλαγές.

Η OpenAI διατύπωσε παρόμοιες κατηγορίες τον Ιανουάριο.

Οι κατηγορίες έθεσαν την απόσταξη στο επίκεντρο μιας ευρύτερης συζήτησης για την πνευματική ιδιοκτησία και τον ανταγωνισμό στη βιομηχανία AI.

Το ζήτημα κέρδισε ιδιαίτερη προβολή μετά την εμφάνιση της DeepSeek, του χαμηλού κόστους μοντέλου AI που κυκλοφόρησε πέρυσι και επέδειξε ικανότητες που φάνηκαν ανταγωνιστικές με τα κορυφαία αμερικανικά συστήματα.

Η εξέλιξη αμφισβήτησε την υπόθεση ότι οι ΗΠΑ είχαν αδιαμφισβήτητο προβάδισμα στην frontier AI και εγείρει ερωτήματα για το πώς οι κινεζικές εταιρείες πετυχαίνουν συγκρίσιμη απόδοση με ουσιωδώς διαφορετικές δομές κόστους.

Ο Pukar Hamal, ιδρυτής της εταιρείας ασφάλειας AI SecurityPal, είχε προηγουμένως συγκρίνει την πρακτική με έναν μαθητή που αντιγράφει τη δουλειά άλλου μαθητή.

«Είναι σχεδόν σαν κάποιος να παρακολούθησε τα μαθήματα, να διάβασε το βιβλίο και να έκανε όλη τη δύσκολη δουλειά της άσκησης», είπε ο Hamal σε παλαιότερο ρεπορτάζ του CNBC.

«Και τότε κάποιος άλλος μαθητής λέει, ‘Ρε φίλε, εγώ δεν το έκανα αυτό. Μπορώ απλά να αντιγράψω τη δουλειά σου;’»

Γιατί η Ουάσινγκτον βλέπει πρόβλημα εθνικής ασφάλειας

Η τελευταία ειδοποίηση των ΗΠΑ υπερβαίνει τις ανησυχίες για τον εμπορικό ανταγωνισμό.

Οι υπηρεσίες είπαν ότι η απόσταξη σε βιομηχανική κλίμακα θα μπορούσε να μειώσει τα κόστη έρευνας και ανάπτυξης για κινεζικές εταιρείες AI, ενώ θα ενίσχυε τις «στρατιωτικές και κυβερνοεπιθετικές ικανότητες της Κίνας που θα μπορούσαν να χρησιμοποιηθούν εναντίον των ΗΠΑ και των συμμάχων μας».

Ένα ρεπορτάζ του Reuters στις 31 Ιουλίου ανέφερε ότι κινεζικοί στρατιωτικοί ερευνητές χρησιμοποίησαν εξόδους από κορυφαία αμερικανικά μοντέλα AI για να εκπαιδεύσουν εγχώρια συστήματα και να προωθήσουν αμυντικές ικανότητες.

Η Anthropic έχει επίσης υποστηρίξει ότι η παράνομη απόσταξη μπορεί να δημιουργήσει πρόβλημα ασφάλειας, επειδή οι προστασίες ασφάλειας ενσωματωμένες στα αμερικανικά frontier μοντέλα ενδέχεται να μην μεταφερθούν στα προκύπτοντα συστήματα.

«Τα παράνομα αποσταγμένα μοντέλα στερούνται των αναγκαίων προστατευτικών μέτρων, δημιουργώντας σημαντικούς κινδύνους για την εθνική ασφάλεια», ανέφερε η Anthropic σε σημείωμα τον Φεβρουάριο.

Οι αμερικανικές εταιρείες AI εισάγουν προστατευτικά μέτρα με σκοπό να αποτρέψουν τα μοντέλα τους από το να συνεισφέρουν σε δραστηριότητες όπως η ανάπτυξη βιολογικών όπλων ή η διεξαγωγή κακόβουλων κυβερνοεπιχειρήσεων.

Η Anthropic προειδοποίησε ότι ένα μοντέλο που δημιουργείται μέσω μη εξουσιοδοτημένης απόσταξης μπορεί να μην διατηρήσει αυτές τις προστασίες.

Η στρατιωτική διάσταση της AI αυξάνει το επίπεδο των κινδύνων

Η ανησυχία συνδέεται επίσης με τις ευρύτερες προσπάθειες της Κίνας να ενσωματώσει την τεχνητή νοημοσύνη σε στρατιωτικές δυνατότητες.

Μια ανάλυση του Φεβρουαρίου από το Centre for Security and Emerging Technology εξέτασε προτάσεις στα κινεζικά που εκδόθηκαν από τον Λαϊκό Απελευθερωτικό Στρατό μεταξύ Ιανουαρίου 2023 και Δεκεμβρίου 2024.

Η ανάλυση διαπίστωσε ότι ο PLA επιδίωκε δυνατότητες με ενεργοποίηση από AI σε τομείς όπως συστήματα υποστήριξης αποφάσεων, βελτίωση αισθητήρων και σύντηξη δεδομένων.

Οι ερευνητές εντόπισαν επίσης σημαντικό ενδιαφέρον για τεχνολογίες που έχουν σχεδιαστεί να αντισταθμίζουν τα αντιλαμβανόμενα στρατιωτικά πλεονεκτήματα των ΗΠΑ, συμπεριλαμβανομένων συστημάτων ικανών να εντοπίζουν αμερικανικά ναυτικά μέσα πάνω και κάτω από την επιφάνεια της θάλασσας και τεχνολογιών για την αντιμετώπιση αμερικανικών διαστημικών συστημάτων.

Εάν προηγμένες ικανότητες AI μπορούν να αποκτηθούν μέσω μη εξουσιοδοτημένης απόσταξης αντί να αναπτυχθούν ανεξάρτητα, οι αμερικανοί αξιωματούχοι υποστηρίζουν ότι η τεχνολογία θα μπορούσε να φτάσει πιο γρήγορα σε στρατιωτικές και πληροφοριακές εφαρμογές.

Η Κίνα απορρίπτει τις κατηγορίες

Το Πεκίνο έχει απορρίψει τις αμερικανικές κατηγορίες ότι κινεζικές εταιρείες AI αποστάζουν ακατάλληλα αμερικανικά frontier μοντέλα.

Η εκπρόσωπος του κινεζικού Υπουργείου Εξωτερικών Mao Ning την Τετάρτη κάλεσε την Ουάσινγκτον να μην κάνει, όπως είπε, αβάσιμες κατηγορίες εναντίον της Κίνας.

«Ελπίζουμε ότι η αμερικανική πλευρά θα εφαρμόσει με ειλικρίνεια την σημαντική συναίνεση που επετεύχθη από τους αρχηγούς κρατών των δύο χωρών και θα αποφύγει να κάνει αβάσιμες κατηγορίες και να δυσφημεί την Κίνα», είπε η Mao σε ημερήσια ενημέρωση στο Πεκίνο.

«Και οι δύο, η Κίνα και οι ΗΠΑ, είναι μεγάλες χώρες στον τομέα της τεχνητής νοημοσύνης και πρέπει να ενισχύσουν τη συνεργασία», πρόσθεσε.

Τον Ιούλιο, μια ανακοίνωση της κινεζικής κυβέρνησης παρόμοια απορρίπτει τους ισχυρισμούς ότι οι κινεζικές εταιρείες AI βασίζονταν στην απόσταξη για να αναπαράγουν αμερικανικές ικανότητες AI.

Υποστήριξε ότι τα κινεζικά μοντέλα είχαν επιτύχει παγκοσμίως κορυφαίες ικανότητες ανεξάρτητα και κατηγόρησε την Ουάσινγκτον για εφαρμογή διπλού μέτρου, καθώς αμερικανικές εταιρείες επίσης χρησιμοποιούν την απόσταξη στην έρευνα και ανάπτυξη.

«Πολλές αμερικανικές εταιρείες AI έχουν αποστάξει από τα κινεζικά μοντέλα για το δικό τους R&D και εκπαίδευση», ανέφερε η ανακοίνωση, προσθέτοντας ότι οι αμερικανικές εταιρείες είχαν αντιταχθεί σε περιορισμούς πρόσβασης σε κινεζικά μοντέλα ανοιχτού κώδικα.

Πώς ανταποκρίνεται η Ουάσινγκτον

Η Ουάσινγκτον έχει ήδη αρχίσει να εξετάζει μέτρα για να αντιμετωπίσει αυτό που θεωρεί κλοπή μοντέλων AI σε βιομηχανική κλίμακα.

Τον Απρίλιο, το White House Office of Science and Technology Policy έκδωσε ένα υπόμνημα, λέγοντας ότι η διοίκηση Τραμπ θα μοιράζεται πληροφορίες με αμερικανικές εταιρείες AI σχετικά με προσπάθειες από ξένους παράγοντες για μη εξουσιοδοτημένη, βιομηχανικής κλίμακας απόσταξη.

Η διοίκηση είπε επίσης ότι θα βοηθήσει τον ιδιωτικό τομέα να συντονίσει τις απαντήσεις, θα συνεργαστεί με τη βιομηχανία για την ανάπτυξη μεθόδων ανίχνευσης και μετριασμού τέτοιας δραστηριότητας και θα εξετάσει μέτρα για να κρατήσει τους ξένους παράγοντες υπόλογους.

Οι αμερικανοί νομοθέτες προωθούν επίσης νομοθεσία.

Η Επιτροπή Εξωτερικών Υποθέσεων της Βουλής ενέκρινε τον Απρίλιο το νομοσχέδιο Deterring American AI Model Theft Act, με στόχο την αντιμετώπιση ανησυχιών σχετικά με την μη εξουσιοδοτημένη αντιγραφή αμερικανικών μοντέλων AI.

Η τελευταία σύσταση ασφάλειας θα μπορούσε να δώσει περαιτέρω ώθηση σε αυτές τις προσπάθειες.

Οι υπηρεσίες συνέστησαν στους αμερικανούς προγραμματιστές AI να λάβουν «άμεση δράση», συμπεριλαμβανομένης της αλλαγής των απαντήσεων σε υποψίες για κακόβουλες προσπάθειες απόσταξης και της ανταλλαγής πληροφοριών για τέτοιες εκστρατείες με άλλες εταιρείες AI.

Γιατί η διάκριση έχει σημασία

Η συζήτηση για την απόσταξη αντικατοπτρίζει τελικά ένα ευρύτερο ερώτημα σχετικά με το πώς πρέπει να αναπτύσσονται και να μοιράζονται οι ικανότητες της AI.

Ως τεχνολογία, η απόσταξη δεν είναι ούτε νέα ούτε εγγενώς παράνομη. Είναι μια ευρέως χρησιμοποιούμενη μέθοδος για να γίνουν ισχυρά συστήματα AI μικρότερα, φθηνότερα και πιο πρακτικά.

Η διαμάχη αφορά την πρόσβαση, την εξουσιοδότηση και το τι συμβαίνει όταν ένας ανταγωνιστής χρησιμοποιεί τις εξόδους ενός ιδιόκτητου μοντέλου για να αναπαράγει ικανότητες που σε άλλη εταιρεία χρειάστηκαν χρόνια και δισεκατομμύρια δολάρια για να αναπτυχθούν.

Η διάκριση αυτή πιθανότατα θα αποκτήσει όλο και μεγαλύτερη σημασία καθώς τα μοντέλα AI γίνονται πιο ικανά και η εμπορική και στρατιωτική τους αξία αυξάνεται.

Για τις αμερικανικές εταιρείες AI, η πρόκληση δεν είναι πλέον απλώς να φτιάχνουν καλύτερα μοντέλα. Πρέπει επίσης να προστατεύουν αυτά τα μοντέλα από το να χρησιμοποιούνται ως φθηνή πηγή δεδομένων εκπαίδευσης από ανταγωνιστές.

Για τους πολιτικούς, το ερώτημα είναι πώς να αποτρέψουν την μη εξουσιοδοτημένη εξαγωγή ικανοτήτων AI χωρίς να περιορίσουν τη νόμιμη έρευνα, την ανάπτυξη ανοιχτού κώδικα και τη φυσιολογική χρήση της απόσταξης στη βιομηχανία.

Οι τελευταίες αμερικανικές κατηγορίες εναντίον έξι κινεζικών εταιρειών υποδηλώνουν ότι η μάχη για την ηγεσία στην AI προχωρά πέρα από τα chip και την επεξεργαστική ισχύ.

Όλο και περισσότερο, οι έξοδοι που παράγουν τα ίδια τα μοντέλα AI μετατρέπονται σε στρατηγικό περιουσιακό στοιχείο.