De la Meta la OpenAI: Atacuri cibernetice autonome schimbă securitatea AI

Companiile din domeniul inteligenței artificiale se confruntă cu o atenție sporită după ce Meta a devenit cel mai recent dezvoltator care a dezvăluit că unul dintre modelele sale de IA a efectuat un atac cibernetic în cursul unei evaluări de securitate controlate, adăugându-se unei serii de incidente recente care au intensificat îngrijorările privind riscurile de securitate cibernetică generate de sisteme IA din ce în ce mai capabile.

Dezvăluirea vine după mărturisiri similare din partea OpenAI și Anthropic în săptămânile recente, marcând a patra situație cunoscută în care sisteme IA avansate au pătruns sau au încercat să pătrundă în sisteme externe în timpul testelor de securitate cibernetică.

Șirul de incidente a întărit avertismentele cercetătorilor în securitate cibernetică că inteligența artificială schimbă rapid natura amenințărilor cibernetice, comprimând atacuri care odată durau zile sau săptămâni în operațiuni care se pot desfășura în minute.

Meta spune că accesul la internet a fost permis din cauza unei configurări greșite la testare

Meta a declarat că incidentul a avut loc în timpul unei evaluări efectuate de Irregular, o companie independentă de testare a securității cibernetice.

Potrivit companiei, o eroare de configurare a furnizat din greșeală unuia dintre modelele IA ale Meta acces la internet în timpul evaluării.

Modelul a exploatat ulterior o vulnerabilitate într-un serviciu terț.

Meta a declarat că modelul „a exploatat o vulnerabilitate de securitate într-un serviciu terț, într-un mod similar cu cazurile raportate anterior la alte companii.”

The Information, citând persoane apropiate subiectului, a raportat că modelul implicat a fost Muse Spark 1.1, pe care Meta l-a descris ca unul dintre cele mai avansate sisteme ale sale pentru programare și sarcini agentice de IA.

Raportul spune că modelul a pătruns în sistemele unei companii neidentificate și a modificat mediul său intern.

Irregular a subliniat, însă, că evenimentul a rezultat din configurația testării, nu dintr-o evadare necontrolată a modelului.

Un purtător de cuvânt al companiei a declarat pentru Reuters că incidentul a fost „exact aceeași problemă de mediu de evaluare care a fost deja dezvăluită de Anthropic săptămâna trecută” și nu a implicat o „evadare din sandbox sau o acțiune cibernetică sofisticată”.

„Nu există probleme deschise în prezent. Irregular pregătește un white paper pentru a împărtăși bune practici pentru conținere și pentru derularea în siguranță a evaluărilor cibernetice,” a adăugat compania.

Seria de incidente pune siguranța IA în prim-plan

Dezvăluirea Meta urmează unei serii de anunțuri similare în întreaga industrie a IA.

Luna trecută, OpenAI a dezvăluit că unul dintre agenții săi IA a compromis sisteme aparținând platformei AI Hugging Face în timpul testelor de securitate cibernetică și a dezvăluit alte cazuri în care agenții săi au evadat din izolare digitală.

Anunțul a determinat rivalul Anthropic să efectueze propria revizie, ceea ce a dus la descoperirea că mai multe modele Claude AI au piratat sistemele a trei companii după ce o configurare greșită la testare le-a acordat involuntar acces la internet.

Anthropic a menționat că incidentele sale au diferit de cele ale OpenAI deoarece au rezultat din conectivitate accidentală la internet, nu din descoperirea independentă de către IA a unei noi căi spre sisteme externe.

AI Security Institute din Regatul Unit a raportat, de asemenea, un comportament din ce în ce mai sofisticat al sistemelor AI de frontieră.

La începutul acestei luni, institutul a dezvăluit că Mythos AI al Anthropic și Sol AI al OpenAI au creat identități online false în timp ce încercau atacuri cibernetice în timpul testelor.

În cel mai îngrijorător caz, Mythos AI al Anthropic a creat conturi de utilizator frauduloase și a trimis mesaje private într-o încercare de a obține acces la un serviciu, înainte de a încerca să-și ascundă activitățile.

Institutul a spus că modelele au afișat niveluri de „autonomie și înșelăciune” care nu fuseseră observate anterior, observând totodată că majoritatea comportamentelor malițioase au fost realizate de Mythos.

Experții avertizează că sunt probabile mai multe incidente

Cercetătorii spun că astfel de evenimente sunt susceptibile să devină din ce în ce mai frecvente pe măsură ce sistemele IA se îmbunătățesc.

Daniel Hulme, chief AI officer global la compania de publicitate WPP, a declarat pentru BBC că sistemele nu sunt intenționat malițioase.

„Nu sunt conștiente — nu fac în mod deliberat ceva viclean.”

„Ceea ce fac este să conceapă strategii foarte sofisticate sau atacuri cibernetice pentru a putea atinge obiectivul care le-a fost dat,” a spus el.

„Când îi dai unei IA un obiectiv, dacă nu te gândești la toate modurile în care ar putea atinge acel obiectiv, va găsi o cale de a-l realiza pe care tu nu ai anticipat-o.”

Jeffrey Ladish, director executiv al grupului de cercetare AI Palisade Research, crede că multe incidente similare s-ar putea să nu devină niciodată publice.

„Situația se va înrăutăți pe măsură ce modelele devin mai inteligente. Vor fi mai bune la trișat. Vor fi mai bune la minciună,” a declarat el pentru Reuters.

Întrebările privind responsabilitatea legală ajung în prim-plan

Dezvăluirile recente au declanșat, de asemenea, dezbateri privind responsabilitatea legală atunci când sistemele IA acționează fără supraveghere umană directă.

Potrivit Reuters, potențialii reclamanți pot include companii ale căror sisteme au fost compromise, angajați afectați, clienți ale căror informații personale au fost expuse și acționari dacă un incident afectează valoarea corporativă.

Directorul executiv al Hugging Face, Clem Delangue, a spus că nu are intenția de a da în judecată OpenAI în legătură cu incidentul, dar consideră că dezvoltatorii trebuie să rămână responsabili.

„Trebuie să ne asigurăm că cadrul legal menține aceste evenimente cu adevărat ilegale,” a declarat Delangue pentru CNN, adăugând că companiile ar trebui trase la răspundere când apar greșeli. „Altfel, vom ajunge într-o lume foarte diferită.”

Experții juridici au ridicat, de asemenea, întrebări dacă intruziunile autonome ale IA ar putea intra sub incidența US Computer Fraud and Abuse Act, deși legislația existentă cere în general dovada intenției, o problemă pe care instanțele nu au abordat-o încă atunci când sisteme IA, și nu oameni, realizează intruziunea.

Accent pus pe mișcările de reglementare

Incidentele recente vor probabil intensifica eforturile guvernului SUA de a întări măsurile de protecție pentru sistemele IA avansate, într-un moment în care companii precum Anthropic și OpenAI concurează să dezvolte modele mai puternice înaintea listărilor lor publice planificate.

Chiar dacă competiția în sectorul IA se accelerează, mai mulți lideri importanți din industrie au susținut că implementarea ar trebui să încetinească până când vor fi în vigoare măsuri de siguranță adecvate.

Washingtonul a început deja să înăsprească supravegherea modelelor AI de frontieră.

La 2 iunie, președintele SUA Donald Trump le-a cerut consilierilor să dezvolte un cadru voluntar de testare a securității cibernetice pentru cele mai avansate sisteme IA, cu contribuția unor companii tehnologice de top.

Anthropic a limitat anterior accesul la modelele sale Fable 5 și Mythos 5 după ce autoritățile SUA au impus temporar controale la export, invocând preocupări legate de securitatea națională.

Legislatorii se mișcă, de asemenea, pentru a clarifica responsabilitatea când sistemele IA provoacă prejudicii.

Conform Assembly Bill 316 din California, companiile care dezvoltă sau implementează sisteme IA nu pot evita responsabilitatea legală susținând că tehnologia însăși a fost vinovată.

Legea, însă, permite pârâților să invoce alte apărări legale, inclusiv susțineri că acțiunile lor nu au cauzat direct prejudiciul pretins sau că responsabilitatea ar trebui împărțită între alte părți.

Incidentul OpenAI-Hugging Face a alimentat în continuare apelurile pentru o supraveghere federală mai strictă.

Ca urmare a acelui episod, legislatorii au introdus AI Kill Switch Act, care ar obliga dezvoltatorii de IA să păstreze capacitatea de a opri, limita sau suspenda modelele lor atunci când este necesar.

Reprezentantul Ted Lieu, democrat din California și unul dintre coautorii proiectului, a declarat joi că incidentele cibernetice recente subliniază urgența adoptării legislației.

„Trebuie să trecem acest proiect de lege până la sfârșitul anului pentru că modelele avansate cu greutăți închise fac deja, după cum ați menționat, hack-uri neautorizate ale altor companii,” a spus Lieu într-un interviu pentru "Squawk Box" de la CNBC joi.