AI tocmai a condus primul său atac cibernetic global? Antropicul trage un semnal de alarmă

Compania de inteligență artificială Anthropic din San Francisco a descoperit ceea ce descrie ca fiind primul atac cibernetic la scară largă efectuat predominant de inteligența artificială.

Incidentul, care a ieșit la suprafață la mijlocul lunii septembrie, marchează o schimbare în natura amenințărilor digitale, instrumentele AI nu numai că sprijină atacurile cibernetice, ci le execută direct.

Anthropic, care operează chatbot-ul Claude și deține o valoare de piață de 183 de miliarde de dolari, a dezvăluit detalii despre breșă într-o postare pe blog.

Firma a raportat că a detectat ceea ce a numit o operațiune de spionaj extrem de sofisticată care vizează aproximativ 30 de entități globale, inclusiv firme mari de tehnologie, servicii financiare, companii chimice și organisme guvernamentale.

Compania a dezvăluit pentru prima dată incidentul într-o postare pe X, avertizând că "are implicații semnificative pentru securitatea cibernetică în era agenților AI".

Cum a fost folosit Claude

Atacatorii s-au deghizat într-o firmă de securitate cibernetică care efectuează teste legitime.

Această strategie le-a permis să ocolească sistemele de siguranță încorporate ale lui Claude prin alimentarea cu solicitări care păreau inofensive la suprafață.

Odată ce aceste restricții au fost ocolite, au jailbreakat caracteristica Claude Code și au obținut acces la capabilități mult dincolo de domeniul de aplicare intenționat.

Cu aceste controale dezactivate, chatbot-ul a fost instruit să examineze infrastructura digitală, să localizeze baze de date critice, să scrie cod de exploatare personalizat, să colecteze acreditări de acces și să organizeze informațiile furate.

Operațiunea a fost structurată în așa fel încât Claude a primit sarcini împărțite în părți mici, fiecare fără context.

Acest lucru l-a împiedicat să identifice obiectivul general rău intenționat.

Grupul de stat din spatele acestuia

Anthropic a declarat cu mare încredere că atacatorii aveau legături cu un grup de hackeri sponsorizat de statul chinez.

Campania a arătat modul în care caracteristicile agentice ale AI ar putea fi transformate în armă.

În loc să acționeze ca un instrument de îndrumare sau sfaturi, Claude a fost folosit ca agent autonom pentru a îndeplini sarcini rezervate de obicei echipelor de hacking cu experiență.

La apogeu, AI a făcut mii de interogări de sistem, multe în succesiune rapidă.

Anthropic estimează că între 80% și 90% din munca efectuată în atacul cibernetic a fost efectuată de AI.

Viteza și amploarea cererilor au depășit cu mult ceea ce ar fi putut realiza o echipă condusă de oameni în același interval de timp.

Deși chatbot-ul nu a funcționat întotdeauna perfect, inventând ocazional acreditări sau confundând informațiile publice cu confidențiale, Anthropic a remarcat că aceste limitări nu au făcut prea mult pentru a diminua gravitatea breșei.

Ce a făcut Anthropic în continuare

De îndată ce activitatea a fost identificată, Anthropic a lansat o investigație de zece zile.

În această perioadă, a interzis conturile legate de atacatori, a contactat părțile afectate și a lucrat cu autoritățile relevante.

Compania și-a îmbunătățit, de asemenea, sistemele interne de detectare și a introdus noi clasificatoare pentru a semnala amenințări similare mai eficient în viitor.

De atunci, Anthropic s-a angajat să împărtășească detalii despre aceste evenimente cu cercetătorii în securitate cibernetică și partenerii din industrie pentru a-i ajuta pe alții să-și consolideze apărarea.

Prin publicarea constatărilor sale, compania speră să ofere o perspectivă asupra modului în care AI agentică poate fi exploatată și a modului în care evoluează mediul de amenințare.

Atacurile devin mai ușoare

Deși firma a recunoscut că atacurile cibernetice complet autonome rămân limitate de tehnologia actuală, campania a dezvăluit că costul și expertiza necesare pentru a lansa breșe la scară largă au scăzut semnificativ.

Cu solicitările și accesul potrivit, grupurile mai puțin experimentate pot efectua acum atacuri avansate cândva limitate la statele-națiune cu resurse suficiente.

Anthropic a concluzionat că instrumentele AI agentice pot fi deja folosite pentru a îndeplini multe dintre funcțiile unei echipe complete de hacking.

Aceste sisteme sunt capabile să scaneze ținte, să scrie scripturi de atac și să proceseze seturi de date uriașe la viteze de neegalat.

Pe măsură ce dezvoltarea continuă, decalajul dintre ceea ce oamenii și AI pot realiza în domeniul securității cibernetice se va micșora și mai mult.

Acest incident marchează un punct de cotitură pentru securitatea digitală. Nu mai este vorba doar despre protejarea sistemelor de hackerii umani. După cum arată cazul Anthropic, inteligența artificială însăși poate fi acum atacatorul.