Německé banky zkoumají rizika modelu AI Anthropic kvůli kybernetickým hrozbám

Německé banky a státní orgány hodnotí potenciální rizika spojená s novým modelem umělé inteligence vyvinutým společností Anthropic, uvedl ve čtvrtek úředník.

Obavy se soustředí na to, zda by technologie mohla zvýšit hrozbu kybernetických útoků na finanční instituce.

Kolja Gabriel, člen představenstva Německé bankovní asociace, uvedl, že skupina aktivně konzultuje odborníky na kybernetickou bezpečnost napříč členskými bankami.

Dodal, že podle agentury Reuters probíhají také diskuse s německým ministerstvem financí a dalšími orgány.

Koordinace s regulátory a úřady

Do probíhajících jednání se zapojuje Bundesbank i německý finanční regulátor BaFin.

BaFin potvrdila, že udržuje pravidelnou výměnu názorů s národními, evropskými a mezinárodními zainteresovanými stranami.

Regulátor zdůraznil potřebu připravenosti ve finančním sektoru.

Mythos vzbuzuje obavy mezi odborníky na kybernetickou bezpečnost

Model Anthropic, známý jako Mythos, upoutal pozornost odborníků na kybernetickou bezpečnost, kteří se domnívají, že představuje zásadní výzvy pro banky, zejména pro ty spoléhající na zastaralé technologické systémy.

Tyto obavy vyvolaly také zájem regulátorů v Británii a Spojených státech.

„Mythos je používán bezpečnostními IT firmami kontrolovaným způsobem k co nejrychlejšímu uzavření potenciálních zranitelností.

„Očekáváme brzy řadu softwarových aktualizací a pečlivě sledujeme vývoj,“ uvedl Gabriel v prohlášení zaslaném e-mailem.

Je zodpovědný za technologie a inovace v asociaci.

Dohledoví pracovníci Evropské centrální banky se připravují klást bankéřům otázky týkající se rizik spojených s modelem.

Omezené nasazení a testování v odvětví

Anthropic uvedl, že jeho současná verze, Claude Mythos Preview, nebude uvolněna pro všeobecné použití.

Místo toho společnost spustila iniciativu nazvanou Project Glasswing.

Program zve přední technologické firmy, dodavatele kybernetické bezpečnosti a organizace včetně JPMorgan Chase, aby model soukromě zhodnotily a posílily obranu.

Toto kontrolované uvedení odráží širší obezřetnost v odvětví, když zainteresované strany usilují porozumět důsledkům pokročilých systémů umělé inteligence.

Stoupající vliv Anthropic na poli umělé inteligence

Tato pozornost přichází v době, kdy Anthropic získává na významu v globálním sektoru umělé inteligence.

Společnost se prosadila jako hlavní hráč po významném kole financování, které ji ocenilo na 380 miliard dolarů.

Podle Davea Kastena z Palisade Researchu si Anthropic vybudoval silnou pozici zaměřením na bezpečnost a spolehlivost.

Poznamenal, že přístup společnosti k „konstituční integritě“ vytvořil strukturální výhodu oproti konkurentům.

Kasten zdůraznil schopnost modelu detekovat zranitelnosti prostřednictvím pokročilého uvažování, nikoli pouhým spoléháním se na historické vzory.

Uváděl příklad, kdy systém identifikoval dříve nezjištěnou chybu ve implementaci FreeBSD, což demonstrovalo jeho potenciál pro proaktivní kybernetickou ochranu.

Strategický význam a napětí v politice

Zájem o Mythos sahá i mimo Evropu.

Zpráva Politico naznačila, že americké agentury a úředníci Kongresu nadále zkoumají možnosti modelu i poté, co byla omezena spolupráce s Anthropic.

Podle zprávy Centrum pro standardy a inovace v oblasti AI ministerstva obchodu testuje kybernetické funkce Mythos.

Pracovníci napříč několika výbory Kongresu také požadovali informativní schůzky ohledně modelu.

Tato situace poukazuje na širší napětí.

Zatímco Pentagon označil Anthropic za riziko v dodavatelském řetězci a přerušil obchodní vazby, části americké vlády se zdají být neochotné ignorovat technologii považovanou za strategicky důležitou.

Rozsah tohoto zapojení zůstává nejasný.

Pokračující zájem nicméně naznačuje, že pokročilé nástroje AI, jako Mythos, se stávají stále centrálnějšími pro úvahy o kybernetické a národní bezpečnosti, i přes regulační obezřetnost.