Γιατί το Mythos AI της Anthropic ανησυχεί ρυθμιστικές αρχές και κεντρικές τράπεζες

Οι χρηματοοικονομικοί ρυθμιστές σε μεγάλες οικονομίες εντείνουν την επιτήρησή τους ενός ισχυρού νέου μοντέλου τεχνητής νοημοσύνης που αναπτύχθηκε από την Anthropic, εν μέσω αυξανόμενων ανησυχιών ότι οι προηγμένες δυνατότητές του θα μπορούσαν να εκθέσουν ευπάθειες σε κρίσιμα χρηματοοικονομικά και ψηφιακά συστήματα.

Αρχές στην Ιαπωνία, την Ευρώπη, την Ινδία και άλλες περιοχές συντονίζουν τις αντιδράσεις τους, καθώς το μοντέλο, γνωστό ως Mythos, εγείρει νέες ερωτήσεις για τους κινδύνους στον κυβερνοχώρο σε έναν όλο και πιο κατευθυνόμενο από την ΑΙ κόσμο.

Η Ιαπωνία συγκαλεί κορυφαίες τράπεζες και ρυθμιστικές αρχές

Στην Ιαπωνία, η Αρχή Χρηματοοικονομικών Υπηρεσιών (Financial Services Agency) ανακοίνωσε την Τετάρτη ότι θα πραγματοποιήσει υψηλού επιπέδου συνάντηση την Παρασκευή με τις μεγαλύτερες τραπεζικές ομίλους της χώρας, συμπεριλαμβανομένων των Mitsubishi UFJ Financial Group, Sumitomo Mitsui Financial Group και Mizuho Financial Group.

Στη συγκέντρωση θα συμμετάσχουν επίσης η Τράπεζα της Ιαπωνίας και το Χρηματιστήριο του Τόκιο, αντανακλώντας την έκταση της ανησυχίας σε όλο το χρηματοπιστωτικό σύστημα.

Η Satsuki Katayama δήλωσε ότι στόχος είναι να συγκεντρωθούν οι βασικοί ενδιαφερόμενοι για να αξιολογήσουν την εξελισσόμενη κατάσταση.

«Θα συγκεντρώσουμε τα βασικά μέλη που φέρουν τη μεγαλύτερη ευθύνη για να μοιραστούμε αξιολογήσεις της τρέχουσας κατάστασης και να ανταλλάξουμε απόψεις, συμπεριλαμβανομένων θεμάτων που έχουν επισημανθεί σε διάφορα μέρη της διεθνούς χρηματοοικονομικής κοινότητας», είπε.

Κεντρικές τράπεζες παγκοσμίως σε επιφυλακή

Ρυθμιστικές αρχές σε άλλες περιοχές λαμβάνουν παρόμοια μέτρα.

Η Τράπεζα της Αυστραλίας (Reserve Bank of Australia) δήλωσε την Τετάρτη ότι παρακολουθεί στενά τις εξελίξεις και «συνεργάζεται με ομότιμους ρυθμιστές, την κυβέρνηση και ρυθμιζόμενους φορείς».

Εν τω μεταξύ, η Τράπεζα της Νέας Ζηλανδίας (Reserve Bank of New Zealand) περιέγραψε τους κινδύνους ως «αναπτυσσόμενους» και επιβεβαίωσε ότι συντονίζεται με εγχώριους και αυστραλιανούς ομολόγους.

Η Ινδία έχει επίσης ενταχθεί στην παγκόσμια προσπάθεια.

Σύμφωνα με ρεπορτάζ του Reuters, η Τράπεζα της Ινδίας (Reserve Bank of India) βρίσκεται σε συζητήσεις με διεθνείς ρυθμιστές, τράπεζες και κυβερνητικούς αξιωματούχους για να αξιολογήσει ενδεχόμενες απειλές.

Προκαταρκτικές αξιολογήσεις υποδεικνύουν ότι το μοντέλο θα μπορούσε να επιταχύνει την ανακάλυψη και εκμετάλλευση ευπαθειών σε λογισμικό, εγείροντας ανησυχίες κυβερνοασφάλειας.

Το ζήτημα έχει φτάσει στα υψηλότερα επίπεδα της παγκόσμιας χάραξης πολιτικής.

Ο Καναδός υπουργός Οικονομικών François-Philippe Champagne είπε στο BBC ότι το μοντέλο συζητήθηκε σε πρόσφατη σύσκεψη του Διεθνούς Νομισματικού Ταμείου στην Ουάσινγκτον.

«Σίγουρα είναι αρκετά σοβαρό ώστε να αξίζει την προσοχή όλων των υπουργών οικονομικών», είπε, περιγράφοντας την τεχνολογία ως ένα «άγνωστο άγνωστο».

Παρομοίως, ο επικεφαλής της Τράπεζας της Αγγλίας Andrew Bailey προειδοποίησε ότι οι αρχές αξιολογούν προσεκτικά τις επιπτώσεις.

«Πρέπει τώρα να εξετάσουμε πολύ προσεκτικά τι μπορεί να σημαίνει αυτή η τελευταία εξέλιξη στην τεχνητή νοημοσύνη για τον κίνδυνο του ηλεκτρονικού εγκλήματος», είπε στο BBC.

Δίκοπο μαχαίρι για την κυβερνοασφάλεια

Αν και το Mythos σχεδιάστηκε για αμυντικές εφαρμογές κυβερνοασφάλειας, οι δυνατότητές του έχουν προκαλέσει ανησυχία.

Η Anthropic ανέφερε ότι οι πρώτες δοκιμές αποκάλυψαν «χιλιάδες» σημαντικές ευπάθειες σε κύρια λειτουργικά συστήματα και προγράμματα περιήγησης στο διαδίκτυο.

Την Τρίτη, ο πρόεδρος της Bundesbank Joachim Nagel περιέγραψε το μοντέλο ως «δίκοπο μαχαίρι».

«Μπορεί να χρησιμοποιηθεί όχι μόνο για τη βελτίωση των ψηφιακών συστημάτων ασφαλείας, αλλά και για να αξιοποιήσει τις ευπάθειές τους για κακόβουλους σκοπούς.»

Οι ειδικοί λένε ότι η ανησυχία αφορά την ταχύτητα και την κλίμακα με την οποία ένα τέτοιο σύστημα ΑΙ μπορεί να εντοπίσει και να εκμεταλλευτεί αδυναμίες—πολύ πιο γρήγορα από τις παραδοσιακές απαντήσεις ασφάλειας.

Γιατί η Anthropic περιόρισε την πρόσβαση στο μοντέλο;

Η Anthropic περιόρισε την πρόσβαση στο μοντέλο μέσω μιας ελεγχόμενης πρωτοβουλίας που ονομάζεται Project Glasswing.

Επιλεγμένες οργανώσεις, συμπεριλαμβανομένων των Amazon, Microsoft, Nvidia και Apple, έχουν λάβει πρώιμη πρόσβαση, μαζί με δεκάδες φορείς υπεύθυνους για τη διατήρηση κρίσιμης ψηφιακής υποδομής.

Σε ένα βίντεο λανσαρίσματος, ο Dario Amodei είπε ότι η εταιρεία προσφέρθηκε να συνεργαστεί με τις αμερικανικές αρχές για να «βοηθήσει στην υπεράσπιση ενάντια στον κίνδυνο αυτών των μοντέλων».

Δοκιμές από ανεξάρτητους ερευνητές, συμπεριλαμβανομένων των λεγόμενων «red teams», ανέδειξαν τις εξελιγμένες ικανότητες του μοντέλου.

Σύμφωνα με την Anthropic, το Mythos μπορεί αυτόνομα να εντοπίζει κρίσιμα σφάλματα σε παλαιά συστήματα και ακόμη να προτείνει μεθόδους για την εκμετάλλευσή τους.

«Το Mythos Preview έχει ήδη βρει χιλιάδες ευπάθειες υψηλής σοβαρότητας, συμπεριλαμβανομένων ορισμένων σε κάθε κύριο λειτουργικό σύστημα και πρόγραμμα περιήγησης», ανέφερε η εταιρεία.

«Δεδομένου του ρυθμού προόδου της ΑΙ, δεν θα περάσει πολύς χρόνος πριν τέτοιες δυνατότητες διαδοθούν, πιθανώς πέρα από παράγοντες που δεσμεύονται να τις αναπτύξουν με ασφάλεια.»

Οι μεγαλύτεροι κίνδυνοι σε παλαιά συστήματα

Η ενδεχόμενη απειλή είναι ιδιαίτερα έντονη σε τομείς που βασίζονται σε πολύπλοκη και γερασμένη υποδομή.

Μια έκθεση της Bain & Company σημείωσε ότι βιομηχανίες όπως η ενέργεια, η βιομηχανική παραγωγή και οι μεταφορές θα μπορούσαν να αντιμετωπίσουν αυξημένους κινδύνους λόγω ξεπερασμένων συστημάτων που είναι δύσκολο να επιδιορθωθούν.

Τράπεζες επίσης είναι ευάλωτες λόγω της εξάρτησής τους σε διασυνδεδεμένα συστήματα, κάποια από τα οποία χρονολογούνται εδώ και δεκαετίες.

Ωστόσο, η έκθεση τόνισε ότι οι κίνδυνοι είναι διαχειρίσιμοι με ισχυρές πρακτικές κυβερνοασφάλειας.

«Η απειλή είναι σοβαρή, αλλά δεν είναι ανυπέρβλητη, και οι ισχυρές βάσεις κυβερνοασφάλειας είναι η καλύτερη άμυνά σας», ανέφερε, προσθέτοντας ότι υπάρχουσες ασπίδες όπως ο διαχωρισμός δικτύων, ο έλεγχος πρόσβασης και ο εντοπισμός ανωμαλιών μπορούν να παρέχουν σημαντική προστασία.

Έμφαση στην ετοιμότητα αντί στην πανικόβλητη αντίδραση

Αντί να βιαστούν να αναπτύξουν εντελώς νέες ΑΙ-ειδικές άμυνες, οι ειδικοί υποστηρίζουν ότι οι οργανισμοί πρέπει να δώσουν προτεραιότητα στη θωράκιση των υφιστάμενων πλαισίων ασφαλείας.

Συστάσεις περιλαμβάνουν τη δημιουργία αφιερωμένων ομάδων αντιμετώπισης απειλών ΑΙ, τη βελτίωση των βασικών μέτρων κυβερνοασφάλειας και την αντιμετώπιση ευπαθειών σε περιβάλλοντα λειτουργικής τεχνολογίας (OT).

Καθώς η πρόσβαση σε ισχυρά συστήματα ΑΙ επεκτείνεται, τόσο οι ρυθμιστές όσο και οι εταιρείες αντιμετωπίζουν μια ισορροπία—επωφελούμενοι από την καινοτομία ενώ προστατεύουν από ανεπιθύμητες συνέπειες.

Η ταχεία παγκόσμια αντίδραση στο Mythos υποδηλώνει ότι οι υπεύθυνοι χάραξης πολιτικής αντιλαμβάνονται σαφώς τα διακυβεύματα.

Εάν αυτές οι πρώιμες προσπάθειες θα είναι αρκετές για να μετριάσουν τους κινδύνους που θέτει η επόμενης γενιάς ΑΙ παραμένει ανοιχτό ερώτημα.