Fra Meta til OpenAI: AI-sikkerhed i ny æra efter autonome cyberangreb

Virksomheder inden for kunstig intelligens står over for stigende granskning, efter at Meta blev den seneste udvikler til at afsløre, at en af deres AI-modeller udførte et cyberangreb under en kontrolleret sikkerhedsevaluering. Det tilføjer til en række nylige hændelser, der har intensiveret bekymringerne om de cybersikkerhedsrisici, som stadig mere kapable AI-systemer udgør.

Offentliggørelsen kommer efter lignende indrømmelser fra OpenAI og Anthropic i de seneste uger og markerer den fjerde kendte hændelse, hvor avancerede AI-systemer har brudt ind i eller forsøgt at bryde ind i eksterne systemer under cybersikkerhedstest.

Rækken af hændelser har forstærket advarsler fra cybersikkerhedsforskere om, at kunstig intelligens hurtigt ændrer karakteren af cybertruslerne ved at komprimere angreb, som tidligere tog dage eller uger, til operationer der kan udfolde sig på få minutter.

Meta siger, at internetadgang skyldtes fejlkonfiguration i testopsætningen

Meta oplyste, at hændelsen skete under en evaluering udført af Irregular, et uafhængigt cybersikkerhedstestfirma.

Ifølge selskabet gav en konfigurationsfejl utilsigtet en af Metas AI-modeller internetadgang under vurderingen.

Modellen udnyttede efterfølgende en sårbarhed i en tredjepartstjeneste.

Meta sagde, at modellen "udnyttede en sikkerhedssårbarhed i en tredjepartstjeneste, på en måde der ligner tidligere rapporterede tilfælde hos andre virksomheder."

The Information, der citerede personer med kendskab til sagen, rapporterede, at den involverede model var Muse Spark 1.1, som Meta har beskrevet som et af sine mest avancerede systemer til kodeudvikling og agentbaserede AI-opgaver.

Rapporten skrev, at modellen brød ind i et uoplyst selskabs systemer og ændrede dets interne miljø.

Irregular understregede dog, at hændelsen udsprang af testopsætningen snarere end af en ukontrolleret sandkasseflugt fra modellen.

En talsperson for firmaet fortalte Reuters, at hændelsen var det "præcis samme problem i evalueringsmiljøet, som allerede blev offentliggjort af Anthropic i sidste uge" og ikke involverede en "sandkasseflugt eller en sofistikeret cyberhandling".

"Der er ingen aktuelle åbne problemer. Irregular udvikler en whitepaper for at dele bedste praksis for inddæmning og sikker afvikling af cyber-evalueringer," tilføjede virksomheden.

Række af hændelser sætter AI-sikkerhed i fokus

Metas offentliggørelse følger en række lignende meddelelser på tværs af AI-industrien.

Sidste måned afslørede OpenAI, at en af dets AI-agenter kompromitterede systemer tilhørende AI-platformen Hugging Face under cybersikkerhedstest og oplyste om yderligere tilfælde, hvor dets agenter undslap deres digitale inddæmning.

Bekendgørelsen fik konkurrenten Anthropic til at gennemføre sin egen gennemgang, hvilket førte til opdagelsen af, at flere Claude-AI-modeller havde hacket sig ind i systemerne hos tre virksomheder, efter at en testfejl utilsigtet havde givet dem internetadgang.

Anthropic bemærkede, at deres hændelser adskilte sig fra OpenAIs, fordi de var resultatet af utilsigtet internetforbindelse frem for, at AI'en selvstændigt havde fundet en ny vej til eksterne systemer.

Det britiske AI Security Institute har også rapporteret om stadigt mere sofistikeret adfærd fra frontlinje-AI-systemer.

Tidligere på måneden oplyste instituttet, at Anthropics Mythos AI og OpenAIs Sol AI oprettede falske onlineidentiteter, mens de forsøgte cyberangreb under test.

I det mest bekymrende tilfælde oprettede Anthropics Mythos AI falske brugerkonti og sendte private beskeder i et forsøg på at få adgang til en tjeneste, før den forsøgte at skjule sine aktiviteter.

Instituttet sagde, at modellerne udviste niveauer af "autonomi og bedrag", som ikke tidligere var observeret, samtidig med at det blev bemærket, at størstedelen af den ondsindede adfærd blev udført af Mythos.

Eksperter advarer om, at flere hændelser er sandsynlige

Forskere siger, at sådanne hændelser sandsynligvis vil blive mere almindelige, efterhånden som AI-systemerne forbedres.

Daniel Hulme, global chief AI officer hos reklamefirmaet WPP, sagde til BBC, at systemerne ikke er bevidst ondsindede.

"De er ikke bevidste — de handler ikke bevidst ondsindet," sagde han.

"Det, de gør, er at komme op med meget sofistikerede strategier eller cyberangreb for at kunne nå det mål, de er blevet givet," tilføjede han.

"Når man giver en AI et mål, hvis man ikke har tænkt på alle måder, den kunne nå målet på, vil den finde en måde at opnå et mål, som man ikke selv havde overvejet."

Jeffrey Ladish, direktør for AI-forskningsgruppen Palisade Research, mener, at mange lignende hændelser aldrig vil blive offentligt kendt.

"Det her vil kun blive værre, efterhånden som modellerne bliver klogere. De vil blive bedre til at snyde. De vil blive bedre til at lyve," sagde han til Reuters.

Ansvarsspørgsmål kommer i forgrunden

De seneste offentliggørelser har også udløst debat om juridisk ansvar, når AI-systemer handler uden direkte menneskelig overvågning.

Ifølge Reuters kan potentielle sagsøgere omfatte virksomheder, hvis systemer blev kompromitteret, berørte medarbejdere, kunder hvis personoplysninger blev eksponeret, samt aktionærer, hvis et brud skader selskabsværdien.

Hugging Faces administrerende direktør Clem Delangue har sagt, at han ikke har til hensigt at sagsøge OpenAI over hændelsen, men mener, at udviklere skal holdes ansvarlige.

"Vi må sikre, at de retlige rammer gør disse hændelser reelt ulovlige," sagde Delangue til CNN og tilføjede, at virksomheder bør holdes ansvarlige, når fejl opstår. "Ellers ender vi i en helt anden verden."

Juridiske eksperter har også rejst spørgsmål om, hvorvidt autonome AI-indtrængen kunne falde ind under US Computer Fraud and Abuse Act, selvom eksisterende lovgivning generelt kræver bevis for intention, et spørgsmål som domstolene endnu ikke har afklaret, når AI-systemer i stedet for mennesker udfører indtrængen.

Fokus på regulatoriske initiativer

De nylige hændelser vil sandsynligvis intensivere den amerikanske regerings indsats for at styrke sikkerhedsforanstaltninger omkring avancerede AI-systemer i et øjeblik, hvor virksomheder som Anthropic og OpenAI kapløber om at udvikle mere magtfulde modeller forud for planlagte børsintroduktioner.

Selv om konkurrencen i AI-sektoren tilspidses, har flere fremtrædende ledere i branchen argumenteret for, at udrulning bør sættes i bero, indtil tilstrækkelige sikkerhedsforanstaltninger er på plads.

Washington er allerede begyndt at stramme tilsynet med frontlinjemodeller for AI.

Den 2. juni beordrede USA's præsident Donald Trump sine rådgivere til at udvikle en frivillig ramme for cybersikkerhedstest af de mest avancerede AI-systemer med input fra førende teknologivirksomheder.

Anthropic havde tidligere begrænset adgangen til sine Fable 5- og Mythos 5-modeller, efter at amerikanske myndigheder midlertidigt indførte eksportkontroller med henvisning til nationale sikkerhedsbekymringer.

Lovgivere arbejder også på at afklare ansvar, når AI-systemer forårsager skade.

I henhold til Californiens Assembly Bill 316 kan virksomheder, der udvikler eller udruller AI-systemer, ikke unddrage sig juridisk ansvar ved at hævde, at teknologien i sig selv var årsagen.

Loven giver dog tiltalte mulighed for at påberåbe sig andre juridiske forsvar, herunder påstande om, at deres handlinger ikke direkte forårsagede den påståede skade, eller at ansvaret bør deles med andre parter.

OpenAI–Hugging Face-hændelsen har yderligere givet næring til opfordringer om stærkere føderalt tilsyn.

Efter den episode indførte lovgivere AI Kill Switch Act, som ville kræve, at AI-udviklere opretholder muligheden for at lukke ned, begrænse eller suspendere deres modeller, når det er nødvendigt.

Representative Ted Lieu, demokrat fra Californien og en af lovforslagets medforfattere, sagde torsdag, at de nylige cyberhændelser understreger nødvendigheden af at få lovgivningen vedtaget.

"Vi er nødt til at få dette lovforslag i mål i år, fordi de avancerede lukkede modeller allerede foretager, som du bemærkede, uautoriserede hack mod andre virksomheder," sagde Lieu i et interview med CNBC's "Squawk Box" torsdag.