De ce Mythos de la Anthropic îngrijorează autoritățile financiare și băncile centrale

Autoritățile de reglementare financiară din marile economii intensifică supravegherea unui nou model puternic de inteligență artificială dezvoltat de Anthropic, pe fondul îngrijorărilor tot mai mari că capabilitățile sale avansate ar putea expune vulnerabilități în sisteme financiare și digitale critice.

Autoritățile din Japonia, Europa, India și alte regiuni coordonează răspunsuri pe măsură ce modelul, cunoscut sub numele Mythos, ridică noi întrebări privind riscurile de securitate cibernetică într-o lume tot mai condusă de AI.

Japonia convoacă marile bănci și reglementatorii

În Japonia, Financial Services Agency a anunțat miercuri că va organiza vineri o reuniune la nivel înalt cu cele mai mari grupuri bancare din țară, inclusiv Mitsubishi UFJ Financial Group, Sumitomo Mitsui Financial Group și Mizuho Financial Group.

La întâlnire vor participa și Bank of Japan și Tokyo Stock Exchange, ceea ce reflectă amploarea îngrijorării în întregul sistem financiar.

Satsuki Katayama a declarat că scopul este de a reuni părțile interesate cheie pentru a evalua situația în evoluție.

„Vom reuni membrii de bază care poartă cea mai mare responsabilitate pentru a împărtăși evaluările situației actuale și a-și exprima opiniile, inclusiv asupra problemelor semnalate în diverse părți ale comunității financiare internaționale,” a spus ea.

Băncile centrale la nivel global în stare de alertă

Reglementatorii din alte regiuni iau măsuri similare.

Reserve Bank of Australia a declarat miercuri că monitorizează îndeaproape evoluțiile și „colaborează cu organisme omoloage, guvernul și entitățile reglementate.”

Între timp, Reserve Bank of New Zealand a descris miercuri riscurile ca fiind „în dezvoltare” și a confirmat că se coordonează cu omologii săi interni și australieni.

India s-a alăturat, de asemenea, efortului global.

Potrivit unui raport Reuters, Reserve Bank of India poartă discuții cu autorități de reglementare internaționale, bănci și oficiali guvernamentali pentru a evalua amenințările potențiale.

Evaluările preliminare sugerează că modelul ar putea accelera descoperirea și exploatarea vulnerabilităților software, ridicând îngrijorări privind securitatea cibernetică.

Problema a ajuns la cele mai înalte niveluri ale procesului decizional global.

Ministrul canadian de finanțe François-Philippe Champagne a declarat pentru BBC că modelul a fost discutat la o reuniune recentă a Fondului Monetar Internațional la Washington.

„Cu siguranță este suficient de grav pentru a merita atenția tuturor miniștrilor de finanțe,” a spus el, descriind tehnologia ca o „necunoscută necunoscută”.

În mod similar, guvernatorul Bank of England, Andrew Bailey, a avertizat că autoritățile evaluează cu atenție implicațiile.

„Trebuie să analizăm foarte atent acum ce ar putea însemna această ultimă dezvoltare în IA pentru riscul criminalității cibernetice,” a declarat el pentru BBC.

O armă cu două tăișuri pentru securitatea cibernetică

Deși Mythos a fost proiectat pentru aplicații defensive de securitate cibernetică, capabilitățile sale au stârnit îngrijorare.

Anthropic a declarat că testările timpurii au scos la iveală „mii” de vulnerabilități semnificative în sistemele de operare majore și în browserele web.

Marți, președintele Bundesbank, Joachim Nagel, a descris modelul ca pe o „armă cu două tăișuri”.

„Ar putea fi folosit nu doar pentru a îmbunătăți sistemele de securitate digitală, ci și pentru a valorifica vulnerabilitățile acestora în scopuri malițioase.”

Experții spun că îngrijorarea constă în viteza și amploarea cu care un astfel de sistem AI poate identifica și exploata slăbiciunile — depășind cu mult capacitatea răspunsurilor de securitate tradiționale.

De ce a restricționat Anthropic accesul la model?

Anthropic a restricționat accesul la model printr-o inițiativă controlată numită Project Glasswing.

Organizații selectate, inclusiv Amazon, Microsoft, Nvidia și Apple, au primit acces timpuriu, alături de zeci de entități responsabile pentru întreținerea infrastructurii digitale critice.

Într-un videoclip de lansare, Dario Amodei a spus că compania a oferit colaborare autorităților americane pentru a „ajuta la apărarea împotriva riscului reprezentat de aceste modele.”

Testele efectuate de cercetători independenți, inclusiv așa-numitele „red teams”, au evidențiat capabilitățile avansate ale modelului.

Potrivit Anthropic, Mythos poate identifica în mod autonom erori critice în sisteme învechite și chiar sugera metode de exploatare a acestora.

„Mythos Preview a găsit deja mii de vulnerabilități de înaltă severitate, inclusiv unele în fiecare sistem de operare major și browser web,” a declarat compania.

„Dat fiind ritmul progresului AI, nu va trece mult timp până când astfel de capabilități se vor răspândi, posibil dincolo de actori care sunt angajați să le implementeze în siguranță.”

Riscuri maxime în sistemele învechite

Amenințarea potențială este deosebit de acută în sectoarele care se bazează pe infrastructură complexă și învechită.

Un raport al Bain & Company a remarcat că industrii precum energie, producție și transport ar putea înfrunta riscuri sporite din cauza sistemelor depășite, dificil de actualizat.

Și băncile sunt vulnerabile, având în vedere dependența lor de sisteme interconectate, unele datând din urmă cu decenii.

Totuși, raportul a subliniat că riscurile sunt gestionabile prin practici solide de securitate cibernetică.

„Amenințarea este serioasă, dar nu este de nerezolvat, iar fundațiile solide de securitate cibernetică sunt cea mai bună apărare,” se arată în raport, adăugând că măsurile existente, precum segmentarea rețelei, controalele de acces și detectarea anomaliilor, pot oferi o protecție semnificativă.

Accentul se mută de la panică la pregătire

În loc să se grăbească să dezvolte apărări complet noi specifice AI, experții susțin că organizațiile ar trebui să acorde prioritate consolidării cadrului de securitate existent.

Recomandările includ înființarea unor echipe dedicate de răspuns la amenințări AI, îmbunătățirea măsurilor de securitate cibernetică de bază și remedierea vulnerabilităților din mediile de tehnologie operațională.

Pe măsură ce accesul la sisteme AI puternice se extinde, atât reglementatorii, cât și companiile se confruntă cu un act de echilibru — valorificarea beneficiilor inovației în timp ce se previn consecințele nedorite.

Răspunsul global rapid la Mythos sugerează că factorii de decizie sunt profund conștienți de mize.

Rămâne o întrebare deschisă dacă aceste eforturi timpurii vor fi suficiente pentru a atenua riscurile ridicate de AI-ul de generație următoare.