Tyske banker vurderer risici ved Anthropics AI-model Mythos i kølvandet på cyberbekymringer

Tyske banker og nationale myndigheder vurderer potentielle risici forbundet med en ny kunstig intelligens-model udviklet af Anthropic, sagde en embedsmand torsdag.

Bekymringerne drejer sig om, hvorvidt teknologien kan øge truslen fra cyberangreb rettet mod finansielle institutioner.

Kolja Gabriel, et medlem af direktionen hos German Banking Association, sagde, at gruppen aktivt konsulterer cybersikkerhedseksperter på tværs af sine medlemsbanker.

Han tilføjede, ifølge Reuters, at der også foregår drøftelser med Tysklands finansministerium og andre myndigheder.

Koordinering med tilsynsmyndigheder og andre myndigheder

De igangværende drøftelser omfatter deltagelse fra Bundesbank og Tysklands finansielle tilsynsmyndighed BaFin.

BaFin bekræftede, at man opretholder regelmæssige udvekslinger med nationale, europæiske og internationale interessenter.

Tilsynsmyndigheden understregede behovet for beredskab i den finansielle sektor.

Mythos vækker bekymring blandt cybersikkerhedseksperter

Anthropics model, kendt som Mythos, har tiltrukket opmærksomhed fra cybersikkerhedseksperter, som mener, at den udgør betydelige udfordringer for banker, især dem der er afhængige af ældre teknologisystemer.

Disse bekymringer har også vakt regulatorisk interesse i Storbritannien og USA.

“Mythos bruges af IT-sikkerhedsfirmaer i kontrolleret omfang for at lukke potentielle sårbarheder så hurtigt som muligt.

Vi forventer en række softwareopdateringer inden længe og overvåger udviklingen nøje,” sagde Gabriel i en e-mailerklæring.

Han har ansvar for teknologi og innovation i foreningen.

Tilsynspersoner ved Den Europæiske Centralbank forbereder sig på at spørge bankfolk om risici forbundet med modellen.

Begrænset udrulning og test i branchen

Anthropic har oplyst, at den nuværende version, Claude Mythos Preview, ikke vil blive frigivet til almindelig brug.

I stedet har virksomheden lanceret et initiativ kaldet Project Glasswing.

Programmet inviterer større teknologivirksomheder, cybersikkerhedsleverandører og organisationer, herunder JPMorgan Chase, til privat at evaluere modellen og styrke forsvaret.

Denne kontrollerede udrulning afspejler en bredere forsigtighed i branchen, mens interessenter søger at forstå konsekvenserne af avancerede AI-systemer.

Anthropics stigende indflydelse i AI-landskabet

Granskningen sker på et tidspunkt, hvor Anthropic får øget gennemslagskraft i den globale AI-sektor.

Virksomheden er blevet en vigtig aktør efter en betydelig finansieringsrunde, der værdisatte den til $380 billion.

Ifølge Dave Kasten fra Palisade Research, har Anthropic opbygget en stærk position ved at fokusere på sikkerhed og pålidelighed.

Han bemærkede, at selskabets tilgang til "constitutional integrity" har skabt en strukturel fordel i forhold til konkurrenterne.

Kasten fremhævede modellens evne til at opdage sårbarheder gennem avanceret ræsonnering i stedet for alene at stole på historiske mønstre.

Han nævnte et eksempel, hvor systemet identificerede en hidtil uopdaget fejl i en FreeBSD-implementering, hvilket demonstrerer dets potentiale for proaktiv cybersikkerhed.

Strategisk betydning og politiske spændinger

Trods bekymringer strækker interessen for Mythos sig ud over Europa.

En Politico-rapport indikerede, at amerikanske myndigheder og kongresmedlemmer fortsætter med at engagere sig i modellens kapaciteter, selv efter at der blev indført restriktioner på samarbejde med Anthropic.

Rapporten sagde, at Handelsministeriets Center for AI Standards and Innovation tester Mythos' cybersikkerhedsfunktioner.

Medarbejdere i flere kongresudvalg har også anmodet om orienteringer om modellen.

Situationen fremhæver en bredere spænding.

Mens Pentagon har betegnet Anthropic som en forsyningskæderisiko og indskrænket forretningsforbindelser, virker dele af den amerikanske regering tilbageholdende med at afskrive en teknologi, der anses for strategisk vigtig.

Omfanget af dette engagement er fortsat uklart.

Den fortsatte interesse antyder dog, at avancerede AI-værktøjer som Mythos i stigende grad bliver centrale for cybersikkerheds- og nationale sikkerhedsovervejelser, selv midt i regulatorisk forsigtighed.