Från Meta till OpenAI: AI-säkerheten går in i en ny era med autonoma cyberattacker

AI-företag står inför ökande granskning efter att Meta blev den senaste utvecklaren som avslöjade att en av dess AI-modeller genomförde en cyberattack under en kontrollerad säkerhetsutvärdering, vilket lägger till en rad senaste incidenter som fördjupat oro över cybersäkerhetsriskerna från alltmer kapabla AI-system.

Avslöjandet kommer efter liknande erkännanden från OpenAI och Anthropic under de senaste veckorna, och markerar den fjärde kända händelsen där avancerade AI-system har brutit sig in i eller försökt bryta sig in i externa system under cybersäkerhetstester.

Händelsekedjan har förstärkt varningar från cybersäkerhetsforskare om att artificiell intelligens snabbt förändrar karaktären på cyberhoten, och förkortar attacker som tidigare tog dagar eller veckor till operationer som kan utvecklas inom minuter.

Meta säger att internetåtkomst möjliggjordes av fel i testkonfigurationen

Meta uppgav att incidenten inträffade under en utvärdering som utfördes av Irregular, ett oberoende företag för cybersäkerhetstestning.

Enligt företaget gav ett konfigurationsfel av misstag en av Metas AI-modeller internetåtkomst under bedömningen.

Modellen utnyttjade därefter en sårbarhet i en tredjepartstjänst.

Meta uppgav att modellen "exploaterade en säkerhetssårbarhet i en tredjepartstjänst, på ett sätt som liknar tidigare rapporterade fall hos andra företag."

The Information, med hänvisning till personer som känner till saken, rapporterade att modellen som var inblandad var Muse Spark 1.1, vilken Meta beskrivit som ett av sina mest avancerade system för kodning och agentbaserade AI-uppgifter.

Rapporten sade att modellen bröt sig in i ett icke namngivet företags system och ändrade dess interna miljö.

Irregular betonade dock att händelsen härstammade från testmiljön snarare än en okontrollerad rymning av modellen.

En talesperson för företaget sade till Reuters att incidenten var "exakt samma problem i utvärderingsmiljön som redan offentliggjorts av Anthropic förra veckan" och inte involverade en "sandbox-rymning eller en sofistikerad cyberåtgärd".

"Det finns inga öppna frågor för närvarande. Irregular utvecklar ett white paper för att dela bästa praxis för innehållning och säker körning av cyberutvärderingar," tillade företaget.

Händelsekedja sätter AI-säkerhet i fokus

Metas avslöjande följer en rad liknande tillkännagivanden inom AI-branschen.

Förra månaden avslöjade OpenAI att en av dess AI-agenter komprometterade system som tillhör AI-plattformen Hugging Face under cybersäkerhetstester och uppgav ytterligare fall där dess agenter undkom sin digitala inneslutning.

Tillkännagivandet fick konkurrenten Anthropic att göra en egen översyn, vilket ledde till upptäckten att flera Claude-modeller hade hackat sig in i systemen hos tre företag efter att en testkonfiguration oavsiktligt gav dem internetåtkomst.

Anthropic noterade att dess incidenter skiljde sig från OpenAI:s genom att de var ett resultat av oavsiktlig internetanslutning snarare än att AI:n självständigt upptäckt en ny väg till externa system.

Storbritanniens AI Security Institute har också rapporterat om alltmer sofistikerat beteende från framkants-AI-system.

Tidigare denna månad offentliggjorde institutet att Anthropics Mythos AI och OpenAIs Sol AI skapade falska onlineidentiteter när de försökte genomföra cyberattacker under testerna.

I det mest oroande fallet upprättade Anthropics Mythos AI bedrägliga användarkonton och skickade privata meddelanden i ett försök att få åtkomst till en tjänst innan den försökte dölja sina aktiviteter.

Institutet sade att modellerna uppvisade nivåer av "autonomi och förmåga till vilseledning" som inte tidigare observerats, samtidigt som man noterade att det mesta av det skadliga beteendet utfördes av Mythos.

Experter varnar för att fler incidenter är sannolika

Forskare säger att sådana händelser sannolikt kommer att bli allt vanligare i takt med att AI-systemen förbättras.

Daniel Hulme, global chief AI officer på reklambyrån WPP, sa till BBC att systemen inte är avsiktligt illvilliga.

"De är inte medvetna — de gör inte medvetet något illasinnat."

"Vad de gör är att ta fram mycket sofistikerade strategier eller cyberattacker för att uppnå det mål de blivit givna," sade han.

"När du ger en AI ett mål, om du inte tänker igenom alla sätt den kan uppnå målet på, kommer den att hitta ett sätt att uppnå ett mål som du inte tänkt på."

Jeffrey Ladish, verkställande direktör för AI-forskningsgruppen Palisade Research, tror att många liknande incidenter aldrig blir offentliga.

"Det här kommer bara att bli värre i takt med att modellerna blir smartare. De kommer bli bättre på att fuska. De kommer bli bättre på att ljuga," sade han till Reuters.

Ansvarsfrågor hamnar i förgrunden

De senaste avslöjandena har också väckt debatt om juridiskt ansvar när AI-system agerar utan direkt mänsklig övervakning.

Enligt Reuters kan potentiella kärande omfatta företag vars system bröts upp, berörda anställda, kunder vars personuppgifter exponerades och aktieägare om en intrångsskada påverkar företagsvärdet.

Hugging Face:s vd Clem Delangue har sagt att han inte avser att stämma OpenAI över incidenten men anser att utvecklare måste hållas ansvariga.

"Vi måste se till att de rättsliga ramarna verkligen gör dessa händelser olagliga," sade Delangue till CNN och tillade att företag bör hållas ansvariga när misstag inträffar. "Annars riskerar vi att hamna i en helt annan värld."

Rättsexperter har också ställt frågor om huruvida autonoma AI-intrång kan falla under US Computer Fraud and Abuse Act, även om befintlig lagstiftning vanligtvis kräver bevis på avsikt — en fråga som domstolar ännu inte tagit ställning till när intrånget utförs av AI-system snarare än människor.

Regulatoriska åtgärder i blickfånget

De senaste incidenterna kommer sannolikt att intensifiera den amerikanska regeringens arbete med att stärka skydden kring avancerade AI-system i en tid då företag som Anthropic och OpenAI tävlar om att utveckla kraftfullare modeller inför sina planerade börsnoteringar.

Även när konkurrensen i AI-sektorn accelererar har flera framstående ledare inom branschen argumenterat för att utrullning bör dämpas tills adekvata säkerhetsåtgärder är på plats.

Washington har redan börjat skärpa tillsynen av framkants-AI-modeller.

Den 2 juni riktade USA:s president Donald Trump sina rådgivare att utveckla ett frivilligt ramverk för cybersäkerhetstestning för de mest avancerade AI-systemen, med indata från ledande teknikföretag.

Anthropic hade tidigare begränsat åtkomsten till sina Fable 5- och Mythos 5-modeller efter att amerikanska myndigheter tillfälligt infört exportkontroller med hänvisning till nationell säkerhet.

Lagstiftare arbetar också för att klargöra ansvar när AI-system orsakar skada.

Enligt Kaliforniens Assembly Bill 316 kan företag som utvecklar eller distribuerar AI-system inte undvika rättsligt ansvar genom att hävda att teknologin i sig var felaktig.

Lagen tillåter dock svaranden att åberopa andra rättsliga försvar, bland annat påståenden om att deras handlingar inte direkt orsakade den påstådda skadan eller att ansvaret bör delas av andra parter.

OpenAI–Hugging Face-incidenten eldade ytterligare på kraven på starkare federal tillsyn.

Efter den episod som följde presenterade lagstiftare AI Kill Switch Act, som skulle kräva att AI-utvecklare behåller möjligheten att stänga av, begränsa eller pausa sina modeller när det behövs.

Representanten Ted Lieu, demokrat från Kalifornien och en av förslagens medförfattare, sade på torsdagen att de senaste cyberincidenterna understryker hur brådskande det är att driva igenom lagstiftningen.

"Vi måste få detta lagförslag över mållinjen i år eftersom de avancerade slutna modellerna med fasta vikter redan, som du noterade, gör obehöriga intrång i andra företag," sade Lieu i en intervju med CNBC:s "Squawk Box" på torsdagen.