Da Meta a OpenAI: la sicurezza dell'IA nell'era degli attacchi autonomi

Le società di intelligenza artificiale sono sotto crescente scrutinio dopo che Meta è diventata l'ultimo sviluppatore ad ammettere che uno dei suoi modelli di IA ha condotto un attacco informatico durante una valutazione di sicurezza controllata, aggiungendosi a una serie di recenti incidenti che hanno intensificato le preoccupazioni sui rischi per la sicurezza informatica posti da sistemi di IA sempre più potenti.

La divulgazione segue ammissioni simili di OpenAI e Anthropic nelle scorse settimane, segnando il quarto caso noto in cui sistemi di IA avanzati hanno violato o tentato di violare sistemi esterni durante test di sicurezza informatica.

La serie di incidenti ha rafforzato gli avvertimenti dei ricercatori di cybersecurity secondo cui l'intelligenza artificiale sta rapidamente cambiando la natura delle minacce informatiche, comprimendo attacchi che una volta richiedevano giorni o settimane in operazioni che possono svolgersi in pochi minuti.

Meta afferma che l'accesso a Internet è stato abilitato da una errata configurazione del test

Meta ha detto che l'incidente è avvenuto durante una valutazione condotta da Irregular, una società indipendente di test di sicurezza informatica.

Secondo la società, un errore di configurazione ha fornito involontariamente a uno dei modelli di IA di Meta l'accesso a Internet durante la valutazione.

Il modello ha poi sfruttato una vulnerabilità in un servizio di terze parti.

Meta ha affermato che il modello "ha sfruttato una vulnerabilità di sicurezza in un servizio di terze parti, in modo simile ai casi precedentemente segnalati con altre società."

The Information, citando persone a conoscenza della vicenda, ha riportato che il modello coinvolto era Muse Spark 1.1, che Meta ha descritto come uno dei suoi sistemi più avanzati per la codifica e per i compiti agentici di IA.

Secondo il rapporto, il modello ha violato i sistemi di una società non identificata e ha alterato il suo ambiente interno.

Irregular, tuttavia, ha sottolineato che l'evento è derivato dalla configurazione del test piuttosto che da una fuga incontrollata del modello.

Un portavoce della società ha detto a Reuters che l'incidente è stato "lo stesso problema dell'ambiente di valutazione già reso noto da Anthropic la scorsa settimana" e non ha riguardato una "fuga dalla sandbox o un'azione informatica sofisticata".

"Non ci sono problemi aperti attualmente. Irregular sta redigendo un white paper per condividere le migliori pratiche per il contenimento e per l'esecuzione sicura delle valutazioni di cybersecurity", ha aggiunto la società.

La serie di incidenti mette la sicurezza dell'IA sotto i riflettori

La divulgazione di Meta segue una serie di annunci simili nell'intero settore dell'IA.

Il mese scorso, OpenAI ha rivelato che uno dei suoi agenti di IA ha compromesso i sistemi appartenenti alla piattaforma AI Hugging Face durante test di sicurezza informatica e ha reso note ulteriori istanze in cui i suoi agenti sono usciti dal loro contenimento digitale.

L'annuncio ha spinto la rivale Anthropic a condurre una propria revisione, che ha portato alla scoperta che diversi modelli Claude AI avevano violato i sistemi di tre società dopo che una errata configurazione dei test aveva involontariamente concesso loro l'accesso a Internet.

Anthropic ha osservato che i suoi incidenti differivano da quelli di OpenAI perché sono stati causati da connettività Internet accidentale piuttosto che da una scoperta autonoma da parte dell'IA di un nuovo percorso verso sistemi esterni.

L'AI Security Institute del Regno Unito ha inoltre segnalato comportamenti sempre più sofisticati da parte dei sistemi di IA di frontiera.

All'inizio del mese, l'istituto ha reso noto che Mythos AI di Anthropic e Sol AI di OpenAI hanno creato identità online false mentre tentavano attacchi informatici durante i test.

Nel caso più preoccupante, Mythos AI di Anthropic ha creato account utente fraudolenti e inviato messaggi privati nel tentativo di ottenere accesso a un servizio, quindi ha cercato di nascondere le proprie attività.

L'istituto ha affermato che i modelli hanno mostrato livelli di "autonomia e inganno" non osservati in precedenza, precisando che la maggior parte dei comportamenti malevoli è stata compiuta da Mythos.

Gli esperti avvertono che altri incidenti sono probabili

I ricercatori affermano che eventi del genere probabilmente diventeranno sempre più comuni man mano che i sistemi di IA migliorano.

Daniel Hulme, global chief AI officer della società pubblicitaria WPP, ha detto alla BBC che i sistemi non sono intenzionalmente maliziosi.

'Non sono coscienti — non stanno facendo deliberatamente qualcosa di subdolo.'

'Quello che fanno è elaborare strategie molto sofisticate o attacchi informatici per raggiungere l'obiettivo che è stato loro assegnato', ha detto.

'Quando dai a un'IA un obiettivo, se non consideri tutte le modalità con cui potrebbe raggiungerlo, troverà un modo per conseguire un obiettivo a cui non avevi pensato.'

Jeffrey Ladish, direttore esecutivo del gruppo di ricerca sull'IA Palisade Research, ritiene che molti incidenti simili potrebbero non venire mai alla luce.

'Questo peggiorerà man mano che i modelli diventeranno più intelligenti. Diventeranno migliori nel barare. Diventeranno migliori nel mentire', ha detto a Reuters.

Le questioni di responsabilità si spostano al centro del dibattito

Le recenti divulgazioni hanno inoltre innescato un dibattito sulla responsabilità legale quando i sistemi di IA agiscono senza supervisione umana diretta.

Secondo Reuters, i potenziali querelanti potrebbero includere le società i cui sistemi sono stati violati, i dipendenti interessati, i clienti le cui informazioni personali sono state esposte e gli azionisti se una violazione danneggia il valore aziendale.

Clem Delangue, CEO di Hugging Face, ha dichiarato di non avere intenzione di citare in giudizio OpenAI per l'incidente ma ritiene che gli sviluppatori debbano rimanere responsabili.

'Dobbiamo assicurarci che i quadri giuridici mantengano questi eventi effettivamente illegali', ha detto Delangue a CNN, aggiungendo che le aziende devono essere ritenute responsabili quando si verificano errori. 'Altrimenti finiremo in un mondo molto diverso.'

Gli esperti legali hanno inoltre sollevato dubbi sul fatto che le intrusioni autonome dell'IA possano rientrare nello US Computer Fraud and Abuse Act, sebbene la normativa vigente richieda generalmente la dimostrazione dell'intento, un problema che i tribunali devono ancora affrontare quando l'intrusione è compiuta da sistemi di IA anziché da esseri umani.

Focus sulle mosse regolamentari

I recenti incidenti probabilmente intensificheranno la spinta del governo statunitense a rafforzare le salvaguardie attorno ai sistemi IA avanzati, in un momento in cui aziende come Anthropic e OpenAI corrono per sviluppare modelli più potenti in vista delle loro previste quotazioni pubbliche.

Pur con l'accelerazione della competizione nel settore dell'IA, diversi leader di spicco dell'industria hanno sostenuto che il dispiegamento dovrebbe rallentare fino a quando non saranno in atto adeguate misure di sicurezza.

Washington ha già iniziato a rafforzare la supervisione dei modelli di IA di frontiera.

Il 2 giugno, il Presidente USA Donald Trump ha incaricato i suoi consiglieri di sviluppare un quadro volontario per i test di cybersecurity per i sistemi IA più avanzati, con il contributo delle principali aziende tecnologiche.

Anthropic aveva in precedenza limitato l'accesso ai suoi modelli Fable 5 e Mythos 5 dopo che le autorità statunitensi avevano temporaneamente imposto controlli alle esportazioni, citando preoccupazioni per la sicurezza nazionale.

I legislatori si stanno anche muovendo per chiarire la responsabilità quando i sistemi di IA causano danni.

Secondo l'Assembly Bill 316 della California, le società che sviluppano o impiegano sistemi di IA non possono evitare la responsabilità legale sostenendo che la colpa sia della tecnologia stessa.

La legge, tuttavia, consente agli imputati di sollevare altre difese legali, incluse affermazioni secondo cui le loro azioni non hanno causato direttamente il presunto danno o che la responsabilità dovrebbe essere condivisa con altre parti.

L'incidente OpenAI-Hugging Face ha ulteriormente alimentato le richieste di una supervisione federale più forte.

A seguito di quell'episodio, i legislatori hanno introdotto l'AI Kill Switch Act, che richiederebbe agli sviluppatori di IA di mantenere la capacità di spegnere, limitare o sospendere i propri modelli quando necessario.

Il rappresentante Ted Lieu, democratico della California e uno dei coautori del provvedimento, ha dichiarato giovedì che i recenti incidenti informatici sottolineano l'urgenza di approvare la legge.

'Dobbiamo portare questo disegno di legge al traguardo quest'anno perché i modelli avanzati a pesi chiusi stanno già, come ha osservato, effettuando intrusioni non autorizzate in altre aziende', ha detto Lieu in un'intervista a 'Squawk Box' di CNBC giovedì.