Hvorfor Anthropics Mythos AI sætter tilsynsmyndigheder og centralbanker på vagt

Tilsynsmyndigheder i store økonomier øger deres tilsyn med en kraftfuld ny kunstig intelligensmodel udviklet af Anthropic, efter stigende bekymring for, at dens avancerede evner kan afsløre sårbarheder i kritiske finansielle og digitale systemer.

Myndigheder i Japan, Europa, Indien og andre regioner koordinerer svar, da modellen, kendt som Mythos, rejser nye spørgsmål om cybersikkerhedsrisici i en stadig mere AI-drevet verden.

Japan indkalder landets største banker og tilsynsmyndigheder

I Japan meddelte Financial Services Agency onsdag, at den vil afholde et topmøde fredag med landets største bankgrupper, herunder Mitsubishi UFJ Financial Group, Sumitomo Mitsui Financial Group og Mizuho Financial Group.

Samlingen vil også omfatte Bank of Japan og Tokyo Stock Exchange, hvilket afspejler omfanget af bekymringer i hele det finansielle system.

Satsuki Katayama sagde, at målet var at samle nøgleinteressenter for at vurdere den udviklende situation.

"Vi vil samle de centrale aktører, som bærer det største ansvar, for at dele vurderinger af den aktuelle situation og udveksle synspunkter, herunder problemer der er blevet påpeget i forskellige dele af det internationale finansielle samfund," sagde hun.

Centralbanker verden over på vagt

Tilsynsmyndigheder i andre regioner tager lignende skridt.

Reserve Bank of Australia meddelte onsdag, at den nøje følger udviklingen og er i dialog med andre tilsynsmyndigheder, regeringen og regulerede enheder.

Reserve Bank of New Zealand beskrev onsdag risiciene som "under udvikling" og bekræftede, at den koordinerer med nationale og australske kolleger.

Indien har også sluttet sig til den globale indsats.

Ifølge en Reuters-rapport er Reserve Bank of India i drøftelser med internationale tilsynsmyndigheder, långivere og embedsmænd for at vurdere potentielle trusler.

Foreløbige vurderinger antyder, at modellen kan accelerere opdagelsen og udnyttelsen af software­sårbarheder, hvilket øger bekymringerne om cybersikkerheden.

Sagen har nået de højeste niveauer i den globale beslutningstagning.

Canadas finansminister François-Philippe Champagne fortalte BBC, at modellen var blevet drøftet på et nyligt møde i International Monetary Fund i Washington.

"Det er bestemt alvorligt nok til at kræve opmærksomhed fra alle finansministrene," sagde han og beskrev teknologien som en "unknown unknown".

Tilsvarende advarede Bank of Englands chef Andrew Bailey om, at myndigheder nøje vurderer konsekvenserne.

"Vi er nødt til meget omhyggeligt at se på, hvad denne seneste AI-udvikling kan betyde for risikoen for cyberkriminalitet," sagde han til BBC.

Et tveægget sværd for cybersikkerheden

Selvom Mythos er designet til defensive cybersikkerhedsformål, har dets kapaciteter vækket bekymring.

Anthropic oplyste, at tidlige tests afslørede "tusindvis" af betydelige sårbarheder på tværs af større operativsystemer og webbrowsere.

Tirsdag beskrev Bundesbanks præsident Joachim Nagel modellen som et "tveægget sværd."

"Den kan ikke kun bruges til at forbedre digitale sikkerhedssystemer, men også til at udnytte deres sårbarheder til ondsindede formål."

Eksperter siger, at bekymringen ligger i den hastighed og skala, hvormed sådan et AI-system kan identificere og udnytte svagheder — langt hurtigere end traditionelle sikkerhedsreaktioner.

Hvorfor har Anthropic begrænset adgangen til modellen?

Anthropic har begrænset adgangen til modellen gennem et kontrolleret initiativ kaldet Project Glasswing.

Udvalgte aktører, herunder Amazon, Microsoft, Nvidia og Apple, har fået tidlig adgang, sammen med dusinvis af aktører ansvarlige for vedligeholdelsen af kritisk digital infrastruktur.

I en lanceringvideo sagde Dario Amodei, at virksomheden havde tilbudt at samarbejde med amerikanske myndigheder for at "hjælpe med at forsvare mod risikoen fra disse modeller."

Testning foretaget af uafhængige forskere, herunder såkaldte "red teams", har fremhævet modellens avancerede kapaciteter.

Ifølge Anthropic kan Mythos autonomt identificere kritiske fejl i legacy-systemer og endda foreslå metoder til at udnytte dem.

"Mythos Preview har allerede fundet tusindvis af sårbarheder med høj alvorlighed, herunder i alle større operativsystemer og webbrowsere," sagde selskabet.

"Givet AI-udviklingens hastighed vil det ikke vare længe, før sådanne kapaciteter spreder sig, potentielt til aktører, der ikke er forpligtede til at anvende dem sikkert."

Risiciene er størst i legacy-systemer

Den potentielle trussel er særligt akut i sektorer, der er afhængige af kompleks og aldrende infrastruktur.

En rapport fra Bain & Company bemærkede, at industrier som energi, fremstilling og transport kan stå over for øgede risici på grund af forældede systemer, der er vanskelige at opdatere.

Banker er også sårbare på grund af deres afhængighed af sammenkoblede systemer, hvoraf nogle går årtier tilbage.

Rapporten understregede dog, at risiciene er håndterbare med stærke cybersikkerhedsforanstaltninger.

"Truslen er alvorlig, men ikke uoverkommelig, og stærke cybersikkerhedsfundamenter er din bedste beskyttelse," lød det, med tilføjelsen om, at eksisterende beskyttelsesforanstaltninger som netværkssegmentering, adgangskontrol og anomalidetektion kan give betydelig beskyttelse.

Fokus skifter fra panik til beredskab

I stedet for at haste med at udvikle helt nye AI-specifikke forsvar, mener eksperter, at organisationer bør prioritere at styrke eksisterende sikkerhedsrammer.

Anbefalinger omfatter oprettelse af dedikerede AI-trusselsrespons-team, forbedring af basale cybersikkerhedsforanstaltninger og udbedring af sårbarheder i operationel teknologi (OT)-miljøer.

Efterhånden som adgangen til kraftfulde AI-systemer udvides, står både tilsynsmyndigheder og virksomheder over for en balancegang — at udnytte fordelene ved innovation samtidig med at beskytte mod utilsigtede konsekvenser.

Den hurtige globale reaktion på Mythos antyder, at beslutningstagerne er meget bevidste om, hvad der står på spil.

Om disse tidlige indsatser vil være nok til at mindske de risici, som næste generations AI udgør, er stadig et åbent spørgsmål.