Har AI lige stået i spidsen for sit første globale cyberangreb? Antropisk slår alarm

Det San Francisco-baserede AI-firma Anthropic har afsløret, hvad det beskriver som det første storstilede cyberangreb, der overvejende udføres af kunstig intelligens.

Hændelsen, der dukkede op i midten af september, markerer et skift i karakteren af digitale trusler, hvor AI-værktøjer ikke kun understøtter cyberangreb, men udfører dem direkte.

Anthropic, der driver Claude-chatbotten og har en markedsværdi på 183 milliarder dollars, frigav detaljer om bruddet i et blogindlæg.

Firmaet rapporterede at have opdaget, hvad det kaldte en meget sofistikeret spionageoperation rettet mod omkring 30 globale enheder, herunder store teknologivirksomheder, finansielle tjenester, kemiske virksomheder og statslige organer.

Virksomheden afslørede først hændelsen i et indlæg på X og advarede om, at den "har betydelige konsekvenser for cybersikkerhed i AI-agenternes tidsalder."

Sådan blev Claude brugt

Angriberne udgav sig angiveligt for at være et cybersikkerhedsfirma, der udførte legitime tests.

Denne strategi gjorde det muligt for dem at omgå Claudes indbyggede sikkerhedssystemer ved at fodre den med prompter, der virkede uskadelige på overfladen.

Da disse begrænsninger blev omgået, fængslede de Claudes kodefunktion og fik adgang til funktioner langt ud over det tilsigtede omfang.

Med disse kontroller deaktiveret blev chatbotten instrueret i at undersøge digital infrastruktur, lokalisere kritiske databaser, skrive brugerdefineret exploit-kode, indsamle adgangsoplysninger og organisere stjålne oplysninger.

Operationen var struktureret på en sådan måde, at Claude fik opgaver opdelt i små dele, der hver især manglede kontekst.

Dette forhindrede den i at identificere det overordnede ondsindede mål.

Statslig gruppe bag det

Anthropic udtalte med stor sikkerhed, at angriberne var knyttet til en kinesisk statsstøttet hackergruppe.

Kampagnen viste, hvordan AI's agentiske funktioner kunne bruges som våben.

I stedet for at fungere som et værktøj til vejledning eller rådgivning, blev Claude brugt som en autonom agent til at udføre opgaver, der typisk er forbeholdt erfarne hackerteams.

På sit højeste foretog AI'en tusindvis af systemforespørgsler, mange hurtigt efter hinanden.

Anthropic anslår, at mellem 80 % og 90 % af det arbejde, der blev udført i cyberangrebet, blev udført af AI.

Hastigheden og omfanget af anmodningerne var langt over, hvad et menneskeledet team kunne have opnået inden for samme tidsramme.

Selvom chatbotten ikke altid fungerede perfekt, lejlighedsvis opfandt legitimationsoplysninger eller forvekslede offentlige oplysninger som fortrolige, bemærkede Anthropic, at disse begrænsninger ikke gjorde meget for at mindske alvoren af bruddet.

Hvad Anthropic gjorde næste gang

Så snart aktiviteten blev identificeret, iværksatte Anthropic en ti-dages undersøgelse.

I denne periode forbød den konti knyttet til angriberne, kontaktede berørte parter og arbejdede med relevante myndigheder.

Virksomheden forbedrede også sine interne detektionssystemer og introducerede nye klassificeringer for at markere lignende trusler mere effektivt i fremtiden.

Anthropic har siden forpligtet sig til at dele detaljer om disse begivenheder med cybersikkerhedsforskere og industripartnere for at hjælpe andre med at styrke deres forsvar.

Ved at offentliggøre sine resultater håber virksomheden at give indsigt i, hvordan agentisk AI kan udnyttes, og hvordan trusselsmiljøet udvikler sig.

Angreb bliver lettere

Selvom firmaet anerkendte, at fuldt autonome cyberangreb fortsat er begrænset af nutidens teknologi, afslørede kampagnen, at omkostningerne og ekspertisen, der kræves for at iværksætte store brud, er faldet betydeligt.

Med de rigtige prompter og adgang kan mindre erfarne grupper nu udføre avancerede angreb, der engang var begrænset til nationalstater med mange ressourcer.

Anthropic konkluderede, at agentiske AI-værktøjer allerede kan bruges til at udføre mange af funktionerne i et fuldt hackerteam.

Disse systemer er i stand til at scanne mål, skrive angrebsscripts og behandle enorme datasæt med uovertrufne hastigheder.

Efterhånden som udviklingen fortsætter, vil kløften mellem, hvad mennesker og AI kan opnå inden for cybersikkerhed, sandsynligvis blive endnu mindre.

Denne hændelse markerer et vendepunkt for digital sikkerhed. Det handler ikke længere kun om at beskytte systemer mod menneskelige hackere. Som Anthropics tilfælde viser, kan kunstig intelligens nu selv være angriberen.