Hvorfor Anthropics Mythos AI får regulatorer og sentralbanker på vakt

Finanstilsyn i store økonomier skjerper tilsynet med en ny, kraftig kunstig intelligens-modell utviklet av Anthropic, etter økende bekymring for at dens avanserte evner kan avdekke sårbarheter i kritiske finansielle og digitale systemer.

Myndigheter i Japan, Europa, India og andre regioner koordinerer svar ettersom modellen, kjent som Mythos, stiller nye spørsmål om cybersikkerhetsrisikoer i en stadig mer AI-drevet verden.

Japan samler toppbanker og tilsynsmyndigheter

I Japan sa Financial Services Agency onsdag at den vil holde et høynivåmøte på fredag med landets største bankgrupper, inkludert Mitsubishi UFJ Financial Group, Sumitomo Mitsui Financial Group og Mizuho Financial Group.

Møtet vil også omfatte Bank of Japan og Tokyo Stock Exchange, noe som reflekterer omfanget av bekymringene i finanssystemet.

Satsuki Katayama sa at målet var å samle nøkkelaktører for å vurdere den utviklende situasjonen.

"Vi vil samle kjerneaktørene som har størst ansvar for å dele vurderinger av den nåværende situasjonen og utveksle synspunkter, inkludert saker som har blitt påpekt i ulike deler av det internasjonale finansmiljøet," sa hun.

Sentralbanker globalt på vakt

Regulatorer i andre regioner tar lignende skritt.

Reserve Bank of Australia sa onsdag at den følger utviklingen nøye og "engasjerer seg med tilsvarende regulatorer, myndigheter og regulerte enheter."

I mellomtiden beskrev Reserve Bank of New Zealand onsdag risikoene som «utviklende» og bekreftet at den koordinerer med innenlandske og australske motparter.

India har også sluttet seg til den globale innsatsen.

Ifølge en Reuters-rapport er Reserve Bank of India i dialog med internasjonale regulatorer, banker og regjeringsrepresentanter for å evaluere potensielle trusler.

Foreløpige vurderinger tyder på at modellen kan akselerere oppdagelsen og utnyttelsen av programvare­sårbarheter, noe som øker bekymringen rundt cybersikkerhet.

Saken har nådd de høyeste nivåene i global politikk.

Canadas finansminister François-Philippe Champagne fortalte BBC at modellen hadde blitt diskutert på et nylig møte i International Monetary Fund i Washington.

"Den er helt klart alvorlig nok til å kreve oppmerksomheten til alle finansministrene," sa han, og beskrev teknologien som et "ukjent ukjent".

Tilsvarende advarte Bank of England-sjef Andrew Bailey om at myndigheter nøye vurderer implikasjonene.

"Vi må nå se svært nøye på hva denne siste AI‑utviklingen kan bety for risikoen for nettkriminalitet," sa han til BBC.

Et tveegget sverd for cybersikkerhet

Selv om Mythos var designet for defensive cybersikkerhetsapplikasjoner, har modellens evner vekket alarm.

Anthropic sa at tidlig testing avdekket «tusenvis» av betydelige sårbarheter på tvers av store operativsystemer og nettlesere.

På tirsdag beskrev Bundesbank‑president Joachim Nagel modellen som et «tveegget sverd».

"Den kan brukes ikke bare for å forbedre digitale sikkerhetssystemer, men også for å utnytte deres sårbarheter til ondsinnede formål."

Eksperter sier at bekymringen ligger i hastigheten og omfanget som et slikt AI‑system kan identifisere og utnytte svakheter — langt raskere enn tradisjonelle sikkerhetsresponser.

Hvorfor har Anthropic begrenset tilgangen til modellen?

Anthropic har begrenset tilgangen til modellen gjennom et kontrollert initiativ kalt Project Glasswing.

Utvalgte organisasjoner, inkludert Amazon, Microsoft, Nvidia og Apple, har fått tidlig tilgang, sammen med dusinvis av aktører som er ansvarlige for å vedlikeholde kritisk digital infrastruktur.

I en lanseringsvideo sa Dario Amodei at selskapet hadde tilbudt å samarbeide med amerikanske myndigheter for å "hjelpe til med å forsvare mot risikoen fra disse modellene."

Testing av uavhengige forskere, inkludert såkalte «red teams», har belyst modellens avanserte kapasiteter.

Ifølge Anthropic kan Mythos autonomt identifisere kritiske feil i eldre systemer og til og med foreslå metoder for å utnytte dem.

"Mythos Preview har allerede funnet tusenvis av sårbarheter med høy alvorlighetsgrad, inkludert noen i hver av de større operativsystemene og nettleserne," sa selskapet.

"Gitt AI‑framgangen vil det ikke ta lang tid før slike evner sprer seg, potensielt utover aktører som er forpliktet til å ta dem i bruk på en sikker måte."

Størst risiko i eldre systemer

Den potensielle trusselen er spesielt akutt i sektorer som er avhengige av kompleks og aldrende infrastruktur.

En rapport fra Bain & Company påpekte at industrier som energi, produksjon og transport kan stå overfor økte risikoer på grunn av utdaterte systemer som er vanskelige å lappe.

Banker er også sårbare, gitt deres avhengighet av sammenkoblede systemer, noen av dem flere tiår gamle.

Rapporten understreket imidlertid at risikoene er håndterbare med sterke cybersikkerhetsrutiner.

"Trusselen er alvorlig, men ikke uoverkommelig, og et solid cybersikkerhetsfundament er det beste forsvaret," het det, med tillegg om at eksisterende tiltak som nettverkssegmentering, tilgangskontroller og anomalideteksjon kan gi betydelig beskyttelse.

Fokus skifter mot beredskap fremfor panikk

I stedet for å skynde seg fram med helt nye AI‑spesifikke forsvar hevder eksperter at organisasjoner bør prioritere å styrke eksisterende sikkerhetsrammeverk.

Anbefalinger inkluderer å etablere dedikerte AI‑trusselresponsteam, forbedre grunnleggende cybersikkerhetstiltak og adressere sårbarheter i operasjonell teknologi.

Etter hvert som tilgangen til kraftige AI‑systemer utvides, står både regulatorer og selskaper overfor en balansegang — å utnytte innovasjonens fordeler samtidig som man vokter mot utilsiktede konsekvenser.

Den raske globale responsen på Mythos tyder på at beslutningstakere er godt klar over hva som står på spill.

Om disse tidlige tiltakene vil være nok til å dempe risikoene knyttet til neste generasjons AI, gjenstår å se.