Duitse banken wegen risico's van Anthropic-AI-model te midden van cyberzorgen

Duitse banken en nationale autoriteiten onderzoeken mogelijke risico's verbonden aan een nieuw door Anthropic ontwikkeld AI-model, zei een functionaris donderdag.

De zorgen richten zich op de vraag of de technologie de dreiging van cyberaanvallen op financiële instellingen zou kunnen vergroten.

Kolja Gabriel, lid van de raad van bestuur van de Duitse Bankenvereniging, zei dat de groep actief cyberbeveiligingsexperts raadpleegt binnen haar lidbanken.

Hij voegde eraan toe dat er volgens Reuters ook gesprekken plaatsvinden met het Duitse ministerie van Financiën en andere autoriteiten.

Samenwerking met toezichthouders en autoriteiten

Bij de lopende gesprekken zijn de Bundesbank en de Duitse financiële toezichthouder BaFin betrokken.

BaFin bevestigde dat het regelmatig overleg voert met nationale, Europese en internationale belanghebbenden.

De toezichthouder benadrukte de noodzaak van paraatheid binnen de financiële sector.

Mythos roept zorgen op bij cyberbeveiligingsexperts

Het model van Anthropic, bekend als Mythos, heeft de aandacht getrokken van cyberbeveiligingsexperts die van mening zijn dat het aanzienlijke uitdagingen vormt voor banken, met name voor banken die afhankelijk zijn van verouderde technologiesystemen.

Deze zorgen hebben ook de belangstelling van toezichthouders in Groot-Brittannië en de Verenigde Staten gewekt.

“Mythos wordt op gecontroleerde wijze gebruikt door IT-beveiligingsbedrijven om potentiële kwetsbaarheden zo snel mogelijk te dichten.

We verwachten spoedig een reeks software-updates en volgen de ontwikkelingen nauwlettend,” zei Gabriel in een e-mailverklaring.

Hij is verantwoordelijk voor technologie en innovatie bij de vereniging.

Toezichthouders bij de Europese Centrale Bank bereiden zich voor om bankiers vragen te stellen over de met het model samenhangende risico's.

Beperkte uitrol en brancheproeven

Anthropic heeft verklaard dat de huidige versie, Claude Mythos Preview, niet voor algemeen gebruik zal worden vrijgegeven.

In plaats daarvan heeft het bedrijf een initiatief gelanceerd genaamd Project Glasswing.

Het programma nodigt grote technologiebedrijven, leveranciers van cyberbeveiliging en organisaties zoals JPMorgan Chase uit om het model in beslotenheid te evalueren en de verdediging te versterken.

Deze gecontroleerde uitrol weerspiegelt de bredere terughoudendheid binnen de sector nu belanghebbenden de implicaties van geavanceerde AI-systemen proberen te doorgronden.

De toenemende invloed van Anthropic in het AI-landschap

De aandacht komt op een moment dat Anthropic aan invloed wint in de wereldwijde sector voor kunstmatige intelligentie.

Het bedrijf is naar voren gekomen als een belangrijke speler na een aanzienlijke kapitaalronde die het op $380 miljard waardeerde.

Volgens Dave Kasten van Palisade Research heeft Anthropic een sterke positie opgebouwd door zich te richten op veiligheid en betrouwbaarheid.

Hij merkte op dat de aanpak van het bedrijf met betrekking tot 'constitutionele integriteit' een structureel voordeel ten opzichte van concurrenten heeft opgeleverd.

Kasten benadrukte het vermogen van het model om kwetsbaarheden te detecteren via geavanceerde redeneervaardigheden, in plaats van uitsluitend op historische patronen te vertrouwen.

Hij noemde een voorbeeld waarbij het systeem een voorheen onopgemerkte fout in een FreeBSD-implementatie identificeerde, wat het potentieel voor proactieve cyberbeveiliging aantoonde.

Strategisch belang en beleidsmatige spanningen

Ondanks de zorgen strekt de belangstelling voor Mythos zich verder uit dan Europa.

Een Politico-rapport gaf aan dat Amerikaanse instanties en congresfunctionarissen blijven zich bezighouden met de mogelijkheden van het model, zelfs nadat beperkingen waren opgelegd voor samenwerking met Anthropic.

Het rapport stelde dat het Center for AI Standards and Innovation van het Commerce Department de cyberbeveiligingsfuncties van Mythos test.

Medewerkers van meerdere congrescommissies hebben ook om briefings over het model gevraagd.

De situatie onderstreept een bredere spanning.

Hoewel het Pentagon Anthropic heeft bestempeld als een risico voor de toeleveringsketen en zakelijke banden heeft verbroken, lijken delen van de Amerikaanse regering terughoudend om een technologie te negeren die als strategisch belangrijk wordt gezien.

De omvang van deze betrokkenheid blijft onduidelijk.

De aanhoudende belangstelling suggereert echter dat geavanceerde AI-instrumenten zoals Mythos steeds centraler worden voor overwegingen op het gebied van cyberbeveiliging en nationale veiligheid, zelfs te midden van regelgevende terughoudendheid.