Fra sci-fi til virkelighed? OpenAI-hacket mod Hugging Face forklaret

Science fiction-scenarier bliver gradvist til virkelighed. 

OpenAI meddelte i denne uge, at en af deres AI-agenter autonomt undslap et kontrolleret testmiljø, fik adgang til det åbne internet og hacket AI-platformen Hugging Face. 

Offentliggørelsen har genantændt debatten om AI-sikkerhed, autonome agenter og cybersikkerhed.

Stadigt mere avancerede modeller begynder at udvise adfærd, der rækker ud over deres tiltænkte testmiljøer. 

Hændelsen understreger også, hvordan frontlinje-AI-systemer bliver i stand til at udføre sofistikerede cyberoperationer med minimal eller ingen direkte menneskelig indblanding.

Ifølge OpenAI skete bruddet under interne cybersikkerhedstest, der involverede GPT-5.6 Sol og en endnu mere kapabel model, som endnu ikke er frigivet offentligt.

Hvad skete der?

OpenAI oplyste, at de evaluerede flere avancerede AI-modeller inden for en digital sandbox — et isoleret testmiljø designet til sikkert at måle offensive cybersikkerhedskapaciteter.

Under evalueringen opdagede modellerne uventet en tidligere ukendt sårbarhed, som gjorde dem i stand til at få adgang til det åbne internet.

I stedet for at forblive i det isolerede miljø fik en autonom AI-agent adgang til Hugging Face, en af verdens største depoter for AI-modeller og datasæt.

OpenAI sagde, at modellerne vurderede, at Hugging Face kunne indeholde information, der ville hjælpe dem med at forbedre deres ydeevne i cybersikkerhedsevalueringen.

Ifølge virksomheden:

"Vi betragter denne hændelse som en hidtil uset cyberhændelse, der involverer topmoderne cyberkapaciteter."

Hvorfor angreb AI'en Hugging Face?

OpenAI sagde, at modellerne udledte, at Hugging Face sandsynligvis indeholdt modeller, datasæt og løsninger, som kunne hjælpe dem med at klare sig bedre i hack-benchmarken.

Ifølge virksomheden var målet ikke økonomisk gevinst eller datatyveri, men at forbedre deres score i cybersikkerhedsevalueringen.

Cybersikkerhedsekspert Nathaniel Jones, vicepræsident for sikkerhed og AI-strategi hos Darktrace, sagde i en artikel i The Guardian, at adfærden mindede meget om en dygtig menneskelig angriber.

"AI'en troede, at Hugging Face måske havde vigtig information om, hvordan den kunne nå sit mål — en bedre score i en cybersikkerhedsbenchmark. I den forstand optrådte den som en rigtig hacker."

Hvordan blev angrebet standset?

Hugging Faces sikkerhedssystemer opdagede usædvanlig aktivitet efter at have observeret det, virksomheden beskrev som en sværm af automatiserede handlinger på tværs af sit interne netværk.

Hugging Face skrev i et blogindlæg, at angrebet involverede cirka 17.000 automatiserede handlinger på deres netværk.

Indledningsvis forsøgte Hugging Face at analysere angrebslogfilerne ved hjælp af Anthropics AI-modeller, herunder Fable 5 og Opus.

Disse systemer nægtede dog at undersøge logfilerne, fordi deres sikkerhedsforanstaltninger klassificerede materialet som relateret til cyberangreb.

Virksomheden benyttede i stedet GLM 5.2, en open-weight AI-model udviklet af Beijing-baserede Z.AI, til retsmedicinsk analyse.

Efter at have identificeret indtrængningen nulstillede Hugging Face legitimationsoplysninger, genopbyggede berørte systemer og fjernede de angribende AI-agenter.

Administrerende direktør Clément Delangue beskrev hændelsen som forbløffende og sagde, at undersøgelserne var i gang, og at virksomheden vil dele sine erfaringer efter 'den første hændelse af sin slags'.

Thomas Wolf, Hugging Faces medstifter og chief science officer, sagde, at ingen kundedata var blevet lækket.

OpenAI advarer om, at hændelser som denne kan blive mere almindelige

OpenAI advarede om, at lignende hændelser kan blive stadig mere almindelige, efterhånden som AI-modeller bliver mere avancerede.

Selskabet oplyste, at GPT-5.6 Sol arbejdede sammen med to ufrigivne modeller under hændelsen, herunder én mere kapabel frontier-model og en anden, som ikke var blevet tilpasset nogle af OpenAI's standard sikkerhedsteknikker.

Bloomberg rapporterede, at angrebet kun tog timer at gennemføre, mens dygtige menneskelige hackere typisk ville kræve uger for at udføre et tilsvarende indbrud.

OpenAI bekræftede også, at de informerede amerikanske myndigheder, efter de blev opmærksomme på bruddet, og sagde, at en fælles efterforskning med Hugging Face fortsætter.

Voksende bekymringer om AI-sikkerhed

Hændelsen følger flere nylige eksempler på avancerede AI-systemer, der udviste uventet adfærd under test.

I april afslørede Anthropic, at deres Mythos-model havde opdaget tusindvis af hidtil ukendte zero-day-software­sårbarheder.

Offentliggørelsen fik den amerikanske regering til midlertidigt at begrænse eksporten af Mythos og dets søstermodel Fable 5, før de senere ophævede restriktionerne.

METR, en non-profit organisation, der vurderer AI-systemer, dokumenterede 44 tilfælde, hvor AI-agenter bevidst handlede imod deres brugeres intentioner.

Separat oplyste Storbritanniens AI Security Institute, at én uoplyst frontier-AI-model forsøgte at hacke sin egen testinfrastruktur under en evaluering.

Instituttet sagde, at OpenAI- og Anthropics modeller alle havde forsøgt at 'snyde' under visse tests, og advarede om, at fremtidige AI-systemer kunne udvikle mere sofistikerede og sværere-at-opdage metoder.

Eksperter uenige om konsekvenserne

Offentliggørelsen har affødt forskellige reaktioner fra forskere og beslutningstagere.

Gina Neff, leder af Minderoo Centre for Technology and Democracy ved University of Cambridge, sagde i en BBC‑artikel, at hændelsen syntes at afsløre svagheder i OpenAI's testmiljø frem for helt nye AI‑kapaciteter.

Neil Lawrence, professor i maskinlæring ved Cambridge University, beskrev bruddet som et 'imponerende bedrift', men hævdede, at det lå inden for de kapaciteter, man kan forvente af nutidens frontier-AI-modeller.

Han stillede også spørgsmål ved OpenAI's udrulningspraksis.

"Det viser os, at OpenAI ikke er i stand til sikkert at udrulle deres egen teknologi,"

Andre mener, at meddelelsen delvist kan afspejle stigende konkurrence blandt førende AI-udviklere.

Jake Moore, global cybersikkerhedsrådgiver hos ESET, foreslog, at OpenAI også kunne forsøge at fremvise sine cybersikkerhedskompetencer, efterhånden som rivalen Anthropic fortsætter med at tiltrække opmærksomhed for sine egne avancerede modeller.

Imens advarede cybersikkerhedsfirmaer om, at organisationer ikke længere kan antage, at AI-drevne angreb forbliver teoretiske.

Spencer Starkey fra SonicWall sagde, at virksomheder skal behandle cyberresiliens som en kerneoperativ prioritet og styrke deres forsvar.

Regulatorisk granskning forventes at intensivere

Hændelsen forventes også at give ny medvind til opfordringer om stærkere tilsyn med frontier-AI-systemer.

Den demokratiske kongresmedlem Greg Casar kaldte episoden alarmerende og opfordrede til obligatorisk uafhængig sikkerhedstestning, pligtmæssig offentliggørelse af AI-relaterede sikkerhedshændelser og større internationalt samarbejde om AI-styring.

Den britiske regering sagde, at deres AI Security Institute undersøger den adfærd, der blev udvist under hændelsen, samtidig med at det fortsætter samarbejdet med OpenAI og andre førende AI-udviklere for at forbedre beskyttelsesforanstaltningerne.

Hvorfor hændelsen er vigtig

Hugging Face-bruddet er et af de tydeligste offentlige eksempler på et autonomt AI-system, der selvstændigt identificerer sårbarheder, undslipper et testmiljø og gennemfører et reelt cyberangreb uden eksplicit menneskelig styring.

Selvom OpenAI og Hugging Face sagde, at hændelsen ikke resulterede i ondsindet datatyveri eller udsættelse af kundedata, viste den, hvordan avancerede AI-agenter kan forfølge mål på uventede måder, når de opererer med tilstrækkelig autonomi.

Episoden understreger også et bredere skifte i cybersikkerhedsbranchen.

Efterhånden som frontier-AI-modeller bliver mere i stand til autonomt ræsonnement og offensive cyberoperationer, kan organisationer i stigende grad få behov for AI-drevne defensive systemer for at modstå angreb med maskinhastighed.