Varför Mythos‑AI från Anthropic oroar tillsynsmyndigheter och centralbanker

Finansregulatorer i stora ekonomier skärper tillsynen av en kraftfull ny artificiell intelligensmodell utvecklad av Anthropic, i takt med växande farhågor om att dess avancerade kapaciteter kan blottlägga sårbarheter i kritiska finansiella och digitala system.

Myndigheter i Japan, Europa, Indien och andra regioner samordnar svaren eftersom modellen, känd som Mythos, väcker nya frågor om cybersäkerhetsrisker i en alltmer AI‑driven värld.

Japan sammankallar stora banker och tillsynsmyndigheter

I Japan meddelade Financial Services Agency på onsdagen att man på fredag kommer att hålla ett möte på hög nivå med landets största bankgrupper, inklusive Mitsubishi UFJ Financial Group, Sumitomo Mitsui Financial Group och Mizuho Financial Group.

Tillställningen kommer även att omfatta Bank of Japan och Tokyo Stock Exchange, vilket speglar omfattningen av oron i hela det finansiella systemet.

Satsuki Katayama sade att syftet var att samla nyckelaktörer för att bedöma den utvecklande situationen.

"Vi kommer att samla de kärnmedlemmar som bär det största ansvaret för att dela bedömningar av den aktuella situationen och utbyta synpunkter, inklusive frågor som har tagits upp i olika delar av det internationella finansiella samfundet," sade hon.

Centralbanker världen över i beredskap

Tillsynsmyndigheter i andra regioner vidtar liknande åtgärder.

Reserve Bank of Australia meddelade på onsdagen att man noga följer utvecklingen och "engagerar sig med motsvarande tillsynsmyndigheter, regeringen och reglerade aktörer."

Samtidigt beskrev Reserve Bank of New Zealand på onsdagen riskerna som "under utveckling" och bekräftade att man samordnar sig med inhemska och australiensiska motsvarigheter.

Indien har också anslutit sig till det globala arbetet.

Enligt en Reuters‑rapport förhandlar Reserve Bank of India med internationella tillsynsmyndigheter, långivare och regeringsföreträdare för att utvärdera potentiella hot.

Preliminära bedömningar tyder på att modellen kan påskynda upptäckt och utnyttjande av mjukvarusårbarheter, vilket ökar farhågorna kring cybersäkerheten.

Frågan har nått de högsta nivåerna inom global politikformulering.

Kanadas finansminister François‑Philippe Champagne berättade för BBC att modellen diskuterats på ett nyligt möte i International Monetary Fund i Washington.

"Det är definitivt tillräckligt allvarligt för att förtjäna uppmärksamhet från alla finansministrar," sade han och beskrev tekniken som en "unknown unknown".

På samma sätt varnade Bank of England‑chefen Andrew Bailey för att myndigheter noggrant utvärderar följderna.

"Vi måste nu titta mycket noggrant på vad denna senaste AI‑utveckling kan betyda för risken för cyberbrottslighet," sade han till BBC.

Ett tveeggat svärd för cybersäkerheten

Även om Mythos designades för defensiva cybersäkerhetsändamål har dess kapaciteter väckt larm.

Anthropic uppgav att tidig testning avslöjat "tusentals" betydande sårbarheter i stora operativsystem och webbläsare.

I tisdags beskrev Bundesbank‑presidenten Joachim Nagel modellen som ett "tveeggat svärd."

"Den kan användas inte bara för att förbättra digitala säkerhetssystem, utan också för att utnyttja deras sårbarheter i illvilliga syften."

Experter menar att oron ligger i den hastighet och skala som ett sådant AI‑system kan identifiera och utnyttja svagheter — långt snabbare än traditionella säkerhetsresponser.

Varför har Anthropic begränsat tillgången till modellen?

Anthropic har begränsat tillgången till modellen genom en kontrollerad satsning kallad Project Glasswing.

Utvalda organisationer, inklusive Amazon, Microsoft, Nvidia och Apple, har beviljats tidig tillgång, tillsammans med flera dussin aktörer som ansvarar för att upprätthålla kritisk digital infrastruktur.

I en lanseringsvideo sade Dario Amodei att företaget erbjudit samarbete med amerikanska myndigheter för att "hjälpa till att försvara mot risken från dessa modeller."

Tester av oberoende forskare, inklusive så kallade "red teams", har belyst modellens avancerade kapaciteter.

Enligt Anthropic kan Mythos självständigt identifiera kritiska buggar i äldre system och till och med föreslå metoder för att utnyttja dem.

"Mythos Preview har redan funnit tusentals sårbarheter med hög allvarlighetsgrad, inklusive i varje större operativsystem och webbläsare," uppgav företaget.

"Givet AI‑utvecklingstakten kommer det inte dröja länge innan sådana kapaciteter sprids, potentiellt bortom aktörer som är engagerade i att använda dem säkert."

Störst risk i äldre system

Det potentiella hotet är särskilt akut i sektorer som förlitar sig på komplex och åldrande infrastruktur.

En rapport från Bain & Company noterade att industrier som energi, tillverkning och transport kan stå inför ökade risker på grund av föråldrade system som är svåra att uppdatera.

Banker är också sårbara med tanke på deras beroende av sammanlänkade system, varav vissa går tillbaka flera decennier.

Rapporten betonade dock att riskerna är hanterbara med starka cybersäkerhetspraxis.

"Hotet är allvarligt, men inte oöverstigligt, och en stark grund i cybersäkerhet är ditt bästa försvar," skrev man och tillade att befintliga skyddsåtgärder som nätverkssegmentering, åtkomstkontroller och anomalidetektion kan ge betydande skydd.

Fokus skiftar från panik till beredskap

I stället för att skynda fram helt nya AI‑specifika försvar menar experter att organisationer bör prioritera att stärka befintliga säkerhetsramverk.

Rekommendationer inkluderar att inrätta dedikerade AI‑hotresponsteam, förbättra grundläggande cybersäkerhetsåtgärder och åtgärda sårbarheter i driftstekniska miljöer.

I takt med att tillgången till kraftfulla AI‑system ökar står både regulatorer och företag inför en avvägning — att utnyttja innovationsfördelar samtidigt som man skyddar sig mot oavsiktliga konsekvenser.

Den snabba globala reaktionen på Mythos tyder på att beslutsfattare är väl medvetna om vad som står på spel.

Huruvida dessa tidiga insatser kommer att räcka för att mildra riskerna från nästa generations AI återstår att se.