Tyske banker vurderer risiko fra Anthropics AI-modell etter cybersikkerhetsbekymringer

Tyske banker og nasjonale myndigheter vurderer potensielle risikoer knyttet til en ny kunstig intelligens-modell utviklet av Anthropic, sa en tjenestemann torsdag.

Bekymringene gjelder om teknologien kan øke trusselen om cyberangrep rettet mot finansinstitusjoner.

Kolja Gabriel, medlem av styret i Den tyske bankforeningen, sa at gruppen aktivt konsulterer cybersikkerhetseksperter i medlemsbankene.

Han la til at det også foregår samtaler med Tysklands finansministerium og andre myndigheter, ifølge Reuters.

Koordinering med tilsynsmyndigheter og andre etater

De pågående samtalene inkluderer deltakelse fra Bundesbank og Tysklands finansregulator BaFin.

BaFin bekreftet at det opprettholder regelmessige utvekslinger med nasjonale, europeiske og internasjonale interessenter.

Tilsynsmyndigheten understreket behovet for beredskap i finanssektoren.

Mythos vekker bekymring blant cybersikkerhetseksperter

Anthropics modell, kjent som Mythos, har tiltrukket seg oppmerksomhet fra cybersikkerhetseksperter som mener den utgjør betydelige utfordringer for banker, særlig for de som er avhengige av eldre teknologisystemer.

Disse bekymringene har også ført til regulatorisk interesse i Storbritannia og USA.

Mythos brukes på en kontrollert måte av IT-sikkerhetsselskaper for å lukke potensielle sårbarheter så raskt som mulig.

"Vi forventer en rekke programvareoppdateringer snart og følger utviklingen nøye," sa Gabriel i en e-postuttalelse.

Han har ansvar for teknologi og innovasjon i foreningen.

Tilsynspersonell ved Den europeiske sentralbanken forbereder seg på å stille bankfolk spørsmål om risiko knyttet til modellen.

Begrenset utrulling og bransjetesting

Anthropic har uttalt at deres nåværende versjon, Claude Mythos Preview, ikke vil bli gjort tilgjengelig for generell bruk.

I stedet har selskapet lansert et initiativ kalt Project Glasswing.

Programmet inviterer store teknologiselskaper, leverandører av cybersikkerhet og organisasjoner, inkludert JPMorgan Chase, til å evaluere modellen privat og styrke forsvaret.

Denne kontrollerte utrullingen gjenspeiler en bredere forsiktighet i bransjen, ettersom interessenter forsøker å forstå konsekvensene av avanserte AI-systemer.

Anthropics økende innflytelse i AI-landskapet

Granskningen kommer på et tidspunkt da Anthropic vinner frem i den globale kunstig intelligens-sektoren.

Selskapet har blitt en betydelig aktør etter en stor finansieringsrunde som ga en verdsettelse på $380 billion.

Ifølge Dave Kasten i Palisade Research, har Anthropic bygget en sterk posisjon ved å fokusere på sikkerhet og pålitelighet.

Han bemerket at selskapets tilnærming til "constitutional integrity" har skapt en strukturell fordel over konkurrentene.

Kasten fremhevet modellens evne til å oppdage sårbarheter gjennom avansert resonnement, i stedet for å stole utelukkende på historiske mønstre.

Han viste til et eksempel der systemet identifiserte en tidligere ukjent feil i en FreeBSD-implementering, noe som demonstrerer dets potensial for proaktiv cybersikkerhet.

Strategisk betydning og politiske spenninger

Til tross for bekymringene strekker interessen for Mythos seg utover Europa.

En Politico-rapport indikerte at USAs etater og kongressmedlemmer fortsetter å engasjere seg i modellens kapasitet, selv etter at restriksjoner ble innført på samarbeid med Anthropic.

Rapporten sa at Handelsdepartementets Center for AI Standards and Innovation tester Mythos' cybersikkerhetsfunksjoner.

Personell fra flere kongresskomiteer har også bedt om orienteringer om modellen.

Situasjonen fremhever en bredere spenning.

Mens Pentagon har merket Anthropic som en risiko i leverandørkjeden og kuttet forretningsforbindelser, virker deler av den amerikanske regjeringen motvillige til å ignorere en teknologi som anses som strategisk viktig.

Omfanget av dette engasjementet er fortsatt uklart.

Imidlertid antyder den vedvarende interessen at avanserte AI-verktøy som Mythos blir stadig mer sentrale for cybersikkerhet og nasjonale sikkerhetshensyn, selv i møte med regulatorisk forsiktighet.