Waarom Anthropic's Mythos-AI toezichthouders en centrale banken op scherp zet

Toezichthouders in grote economieën verscherpen hun toezicht op een krachtig nieuw kunstmatig-intelligentiemodel ontwikkeld door Anthropic, te midden van toenemende zorgen dat de geavanceerde mogelijkheden kwetsbaarheden kunnen blootleggen in kritieke financiële en digitale systemen.

Autoriteiten in Japan, Europa, India en andere regio's coördineren hun respons nu het model, bekend als Mythos, nieuwe vragen oproept over cyberbeveiligingsrisico's in een steeds meer door AI gedreven wereld.

Japan roept topbanken en toezichthouders bijeen

In Japan zei de Financial Services Agency woensdag dat zij vrijdag een bijeenkomst op hoog niveau zal houden met de grootste bankgroepen van het land, waaronder Mitsubishi UFJ Financial Group, Sumitomo Mitsui Financial Group en Mizuho Financial Group.

De bijeenkomst zal ook de Bank of Japan en de Tokyo Stock Exchange omvatten, wat de breedte van de zorgen in het financiële stelsel weerspiegelt.

Satsuki Katayama zei dat het doel was om sleutelbelanghebbenden samen te brengen om de zich ontwikkelende situatie te beoordelen.

"We zullen de kernleden die de grootste verantwoordelijkheid dragen samenbrengen om beoordelingen van de huidige situatie te delen en van gedachten te wisselen, inclusief kwesties die in verschillende delen van de internationale financiële gemeenschap zijn aangekaart," zei zij.

Centrale banken wereldwijd alert

Toezichthouders in andere regio's nemen vergelijkbare stappen.

De Reserve Bank of Australia zei woensdag dat zij de ontwikkelingen nauwlettend volgt en "in contact staat met collega-toezichthouders, de overheid en gereguleerde entiteiten."

Ondertussen beschreef de Reserve Bank of New Zealand woensdag de risico's als "ontwikkelend" en bevestigde dat zij coördineert met binnenlandse en Australische tegenhangers.

India heeft zich ook bij de wereldwijde inspanning aangesloten.

Volgens een Reuters-rapport voert de Reserve Bank of India gesprekken met internationale toezichthouders, kredietverstrekkers en overheidsfunctionarissen om potentiële dreigingen te evalueren.

Voorlopige beoordelingen suggereren dat het model de ontdekking en uitbuiting van softwarekwetsbaarheden kan versnellen, wat cyberbeveiligingszorgen vergroot.

De kwestie heeft de hoogste beleidsniveaus wereldwijd bereikt.

De Canadese minister van Financiën, François-Philippe Champagne, vertelde de BBC dat het model was besproken tijdens een recent overleg van het Internationaal Monetair Fonds in Washington.

"Het is zeker ernstig genoeg om de aandacht van alle ministers van Financiën te verdienen," zei hij en omschreef de technologie als een 'unknown unknown'.

Evenzo waarschuwde Andrew Bailey van de Bank of England dat autoriteiten de implicaties nauwkeurig evalueren.

"We moeten nu heel goed kijken wat deze laatste AI-ontwikkeling zou kunnen betekenen voor het risico op cybercriminaliteit," zei hij tegen de BBC.

Een tweesnijdend zwaard voor cyberbeveiliging

Hoewel Mythos is ontworpen voor defensieve cyberbeveiligingsdoeleinden, hebben de capaciteiten tot ongerustheid geleid.

Anthropic zei dat vroege tests "duizenden" significante kwetsbaarheden in belangrijke besturingssystemen en webbrowsers hadden aangetoond.

Op dinsdag noemde Bundesbank-president Joachim Nagel het model een "tweesnijdend zwaard."

"Het zou niet alleen kunnen worden gebruikt om digitale beveiligingssystemen te verbeteren, maar ook om hun kwetsbaarheden voor kwaadaardige doeleinden uit te buiten."

Experts zeggen dat de zorg ligt in de snelheid en schaal waarop een dergelijk AI-systeem zwakheden kan identificeren en misbruiken—vele malen sneller dan traditionele beveiligingsreacties.

Waarom heeft Anthropic de toegang tot het model beperkt?

Anthropic heeft de toegang tot het model beperkt via een gecontroleerd initiatief genaamd Project Glasswing.

Selecte organisaties, waaronder Amazon, Microsoft, Nvidia en Apple, hebben vroege toegang gekregen, naast tientallen entiteiten die verantwoordelijk zijn voor het onderhoud van kritieke digitale infrastructuur.

In een lanceervideo zei Dario Amodei dat het bedrijf had aangeboden samen te werken met Amerikaanse autoriteiten om "te helpen verdedigen tegen het risico van deze modellen."

Tests door onafhankelijke onderzoekers, waaronder zogenoemde "red teams", hebben de geavanceerde mogelijkheden van het model aangetoond.

Volgens Anthropic kan Mythos autonoom kritieke bugs in verouderde systemen identificeren en zelfs methoden suggereren om ze te misbruiken.

"Mythos Preview heeft al duizenden kwetsbaarheden met hoge ernst gevonden, waaronder sommige in elk groot besturingssysteem en elke webbrowser," verklaarde het bedrijf.

"Gezien het tempo van AI-vooruitgang zal het niet lang duren voordat dergelijke capaciteiten zich verspreiden, mogelijk buiten de actoren die zich inzetten voor veilige inzet."

Risico's het grootst in verouderde systemen

De potentiële dreiging is bijzonder acuut in sectoren die afhankelijk zijn van complexe en verouderende infrastructuur.

Een rapport van Bain & Company stelde dat industrieën zoals energie, productie en transport verhoogde risico's kunnen lopen door verouderde systemen die moeilijk te patchen zijn.

Ook banken zijn kwetsbaar gezien hun afhankelijkheid van onderling verbonden systemen, waarvan sommige decennia oud zijn.

Het rapport benadrukte echter dat de risico's beheersbaar zijn met sterke cyberbeveiligingspraktijken.

"De bedreiging is serieus, maar niet onoverkomelijk, en sterke cyberbeveiligingsfundamenten zijn uw beste verdediging," zei het rapport, en voegde daaraan toe dat bestaande waarborgen zoals netwerksegmentatie, toegangscontroles en anomaliedetectie aanzienlijke bescherming kunnen bieden.

Focus verschuift naar paraatheid in plaats van paniek

In plaats van zich te haasten met het ontwikkelen van geheel nieuwe AI-specifieke verdedigingen, betogen experts dat organisaties prioriteit moeten geven aan het versterken van bestaande beveiligingskaders.

Aanbevelingen omvatten het opzetten van speciale AI-dreigingsrespons-teams, het verbeteren van basale cyberbeveiligingsmaatregelen en het aanpakken van kwetsbaarheden in omgevingen met operationele technologie.

Naarmate de toegang tot krachtige AI-systemen toeneemt, staan zowel toezichthouders als bedrijven voor een evenwichtsoefening: profiteren van de voordelen van innovatie terwijl ze zich beschermen tegen onbedoelde gevolgen.

De snelle wereldwijde reactie op Mythos suggereert dat beleidsmakers zich scherp bewust zijn van de inzet.

Of deze vroege inspanningen voldoende zullen zijn om de risico's van AI van de volgende generatie te mitigeren, blijft een open vraag.