Η Nvidia ιδρύει συμμαχία ασφάλειας OpenAI εν μέσω αύξησης κυβερνοαπειλών

Η Nvidia και μια ομάδα μεγάλων εταιρειών τεχνολογίας τη Δευτέρα ανακοίνωσαν μια νέα πρωτοβουλία με στόχο την ασφάλεια και την κυβερνοασφάλεια των ανοιχτών μοντέλων τεχνητής νοημοσύνης.

Η κίνηση γίνεται καθώς ο κλάδος της τεχνολογίας αντιμετωπίζει αυξανόμενες ανησυχίες για τη χρήση της τεχνητής νοημοσύνης σε κυβερνοεπιθέσεις και εντονότερο έλεγχο των κινεζικών μοντέλων τεχνητής νοημοσύνης.

Η πρωτοβουλία ακολουθεί τη δημοσιοποίηση μιας κυβερνοεπίθεσης που αφορούσε ένα μη εξουσιοδοτημένο μοντέλο της OpenAI.

Το περιστατικό τόνισε τις ανησυχίες σχετικά με την ικανότητα των συστημάτων τεχνητής νοημοσύνης να διακρίνουν τους επιτιθέμενους από τις ομάδες κυβερνοασφάλειας που αμύνονται.

Η νέα συμμαχία στοχεύει στην ανάπτυξη και την κοινή χρήση ανοικτών εργαλείων τεχνητής νοημοσύνης.

Επιπλέον, επιδιώκει να αντιμετωπίσει ευπάθειες μέσω ανοιχτών τεχνολογιών.

Η πρωτοβουλία έρχεται σε μια περίοδο που οι νομοθέτες των ΗΠΑ εξετάζουν όλο και περισσότερο μέτρα που θα περιορίζουν την αυξανόμενη υιοθέτηση κινεζικών μοντέλων τεχνητής νοημοσύνης.

Η νέα συμμαχία εστιάζει στην ασφάλεια των ανοιχτών μοντέλων AI

Η NVDA ανέφερε ότι η νεοσύστατη Open Secure AI Alliance θα επικεντρωθεί στην αντιμετώπιση ευπαθειών ασφαλείας και στη δημοσιοποίησή τους μέσω χρήσης ανοιχτών τεχνολογιών.

«Η Open Secure AI Alliance θα εργαστεί για την επιδιόρθωση και τη γνωστοποίηση ευπαθειών χρησιμοποιώντας ανοικτές τεχνολογίες», ανέφερε η Nvidia σε δήλωση.

«Το πρόσφατο περιστατικό ασφάλειας της Hugging Face υπενθύμισε έντονα: οι υπερασπιστές στον κυβερνοχώρο χρειάζονται ανοικτά, πρωτοποριακά συστήματα‑πρακτόρες για αυτοπροστασία.»

Η συμμαχία περιλαμβάνει την Nvidia, τη Microsoft, τη SpaceX και την Palantir, καθώς και δεκάδες άλλες εταιρείες τεχνολογίας από τις ΗΠΑ και την Ευρώπη.

Η πρωτοβουλία επικεντρώνεται στα ανοικτά μοντέλα τεχνητής νοημοσύνης, τα οποία μπορούν να ληφθούν, να τροποποιηθούν και να φιλοξενηθούν από τους ίδιους τους χρήστες.

Αυτό διαφέρει από τα κλειστά μοντέλα AI, συμπεριλαμβανομένων των συστημάτων αιχμής που έχουν αναπτυχθεί από εταιρείες όπως η Anthropic και η OpenAI, τα οποία είναι προσβάσιμα μόνο μέσω συγκεκριμένης υποδομής.

Η ώθηση των εταιρειών για εργαλεία ανοικτής τεχνητής νοημοσύνης έρχεται μετά από ένα πρόσφατο περιστατικό ασφάλειας που αφορούσε την Hugging Face, μια startup τεχνητής νοημοσύνης που έγινε στόχος κυβερνοεπίθεσης.

Η εταιρεία δεν μπόρεσε να χρησιμοποιήσει κορυφαία αμερικανικά συστήματα αιχμής για να αμυνθεί κατά τη διάρκεια του περιστατικού.

Οι μηχανισμοί προστασίας σε αυτά τα συστήματα, σύμφωνα με αναφορές, δεν διέκριναν μεταξύ επιτιθέμενου και αμυνόμενου.

Ως αποτέλεσμα, η Hugging Face στράφηκε σε ένα αυτο‑φιλοξενούμενο, κινεζικό μοντέλο AI ανοιχτού βάρους που δεν υπόκειτο στους ίδιους περιορισμούς.

Το περιστατικό έχει προσθέσει στο διάλογο σχετικά με το εάν τα ανοικτά μοντέλα AI μπορούν να παίξουν σημαντικό ρόλο στην κυβερνοασφάλεια.

Έχει επίσης εγείρει ερωτήματα σχετικά με τον αντίκτυπο των περιορισμών στη χρήση προηγμένων συστημάτων AI.

Ανησυχίες σχετικά με περιορισμούς σε κινεζικά μοντέλα AI

Η έναρξη της συμμαχίας γίνεται καθώς αυξάνονται οι εκκλήσεις για μέτρα που θα μπορούσαν να περιορίσουν την πρόσβαση σε μοντέλα AI που έχουν αναπτύξει κινεζικές εταιρείες.

Τα πιο προηγμένα κινεζικά μοντέλα AI είναι ανοιχτού βάρους, επιτρέποντας να ληφθούν και να χρησιμοποιηθούν με τρόπους που διαφέρουν από τα κλειστά συστήματα AI.

Οι κινεζικές εταιρείες AI έχουν επίσης αντιμετωπίσει κατηγορίες ότι χρησιμοποιούν εκστρατείες για την εξαγωγή πληροφοριών από συστήματα που διαχειρίζονται ανταγωνιστές στις ΗΠΑ.

Αυτή η διαδικασία είναι γνωστή ως «distillation», όπου ένα μοντέλο AI εξάγει γνώση από ένα καλύτερα εκπαιδευμένο μοντέλο.

Ο Υπουργός Οικονομικών Scott Bessent απείλησε την προηγούμενη εβδομάδα με κυρώσεις κινεζικές εταιρείες που πραγματοποιούν επιθέσεις distillation κατά αμερικανικών εταιρειών.

Η προοπτική νέων περιορισμών έχει προσθέσει αβεβαιότητα στο μέλλον των μοντέλων AI ανοιχτού βάρους και στη διαθεσιμότητά τους.

Ο κλάδος προειδοποιεί για πρόωρους περιορισμούς

Ο Chris McGuire, ανώτερος ερευνητής για την Κίνα και τις αναδυόμενες τεχνολογίες στο Council on Foreign Relations, δήλωσε ότι η κυβέρνηση των ΗΠΑ μπορεί να εισαγάγει περιορισμούς στα κινεζικά μοντέλα AI.

«Υπάρχει πραγματική πιθανότητα η κυβέρνηση των ΗΠΑ να επιβάλει περιορισμούς στα κινεζικά μοντέλα», είπε ο McGuire στο CNBC.

Ταυτόχρονα, μεγάλες εταιρείες τεχνολογίας έχουν προτρέψει τους υπεύθυνους χάραξης πολιτικής να ακολουθήσουν μια προσεκτική προσέγγιση στη ρύθμιση των μοντέλων AI ανοιχτού βάρους.

Την προηγούμενη εβδομάδα, οι Nvidia, Microsoft, Meta, Palantir και περισσότερες από 20 άλλες εταιρείες δημοσίευσαν μια επιστολή καλώντας τους νομοθέτες να αποφύγουν «πρόωρους περιορισμούς» στα μοντέλα AI ανοιχτού βάρους.

Οι εταιρείες υποστήριξαν ότι τέτοιοι περιορισμοί θα μπορούσαν «να πνίξουν τον ανταγωνισμό ή να ωθήσουν την καινοτομία στο εξωτερικό».

Ο διάλογος αντικατοπτρίζει μια αυξανόμενη ένταση εντός του κλάδου της τεχνητής νοημοσύνης.

Εταιρείες και υπεύθυνοι χάραξης πολιτικής προσπαθούν να αντιμετωπίσουν τους κινδύνους ασφαλείας που συνδέονται με προηγμένα συστήματα AI, ενώ ταυτόχρονα διασφαλίζουν ότι οι προγραμματιστές και οι ομάδες κυβερνοασφάλειας έχουν πρόσβαση σε ισχυρά εργαλεία.

Για την Nvidia και τους εταίρους της, η Open Secure AI Alliance αντιπροσωπεύει μια ώθηση για ενίσχυση του ρόλου των ανοιχτών τεχνολογιών στην ασφάλεια της AI.

Η πρωτοβουλία έρχεται επίσης καθώς οι υπεύθυνοι χάραξης πολιτικής αξιολογούν τον τρόπο αντίδρασης στην ταχεία υιοθέτηση των κινεζικών μοντέλων AI και στην ευρύτερη ανάπτυξη της τεχνητής νοημοσύνης ανοιχτού βάρους.