Niemieckie banki oceniają ryzyko modelu AI Anthropic wobec zagrożeń cybernetycznych

Niemieckie banki i organy państwowe oceniają potencjalne ryzyka związane z nowym modelem sztucznej inteligencji opracowanym przez Anthropic — poinformował w czwartek urzędnik.

Obawy dotyczą tego, czy technologia może zwiększyć zagrożenie atakami cybernetycznymi wymierzonymi w instytucje finansowe.

Kolja Gabriel, członek zarządu Niemieckiego Związku Bankowego, powiedział, że organizacja aktywnie konsultuje się z ekspertami ds. cyberbezpieczeństwa w swoich bankach członkowskich.

Dodał, że rozmowy prowadzone są również z niemieckim ministerstwem finansów i innymi władzami, podał Reuters.

Koordynacja z regulatorami i władzami

W trwających rozmowach uczestniczą Bundesbank i niemiecki regulator finansowy BaFin.

BaFin potwierdził, że utrzymuje regularne kontakty z krajowymi, europejskimi i międzynarodowymi interesariuszami.

Regulator podkreślił potrzebę gotowości w sektorze finansowym.

Mythos budzi obawy ekspertów ds. cyberbezpieczeństwa

Model Anthropic, znany jako Mythos, zwrócił uwagę ekspertów ds. cyberbezpieczeństwa, którzy uważają, że stwarza on istotne wyzwania dla banków, zwłaszcza tych opartych na przestarzałych systemach technologicznych.

Obawy te wywołały również zainteresowanie regulatorów w Wielkiej Brytanii i Stanach Zjednoczonych.

„Mythos jest wykorzystywany w kontrolowany sposób przez firmy zajmujące się bezpieczeństwem IT, aby jak najszybciej zamykać potencjalne luki.

Oczekujemy wkrótce serii aktualizacji oprogramowania i uważnie monitorujemy rozwój sytuacji” — napisał Gabriel w oświadczeniu przesłanym e-mailem.

Odpowiada on za technologię i innowacje w związku.

Nadzorcy w Europejskim Banku Centralnym przygotowują się do zadawania pytań bankierom o ryzyka związane z modelem.

Ograniczone wdrożenie i testy w branży

Anthropic oświadczył, że jego obecna wersja, Claude Mythos Preview, nie zostanie udostępniona do powszechnego użytku.

Zamiast tego firma uruchomiła inicjatywę nazwaną Project Glasswing.

Program zaprasza największe firmy technologiczne, dostawców rozwiązań cyberbezpieczeństwa oraz organizacje, w tym JPMorgan Chase, do prywatnej oceny modelu i wzmocnienia obrony.

To kontrolowane wdrożenie odzwierciedla szerszą ostrożność w branży, gdy interesariusze starają się zrozumieć implikacje zaawansowanych systemów AI.

Rosnący wpływ Anthropic w sektorze sztucznej inteligencji

Kontrola odbywa się w momencie, gdy Anthropic zyskuje na znaczeniu w globalnym sektorze sztucznej inteligencji.

Firma wyłoniła się jako ważny gracz po znaczącej rundzie finansowania, która wyceniła ją na $380 billion.

Zdaniem Dave'a Kastena z Palisade Research, Anthropic zbudował silną pozycję, koncentrując się na bezpieczeństwie i niezawodności.

Zauważył, że podejście firmy do „integralności konstytucyjnej” stworzyło dla niej trwałą przewagę nad konkurentami.

Kasten podkreślił zdolność modelu do wykrywania podatności dzięki zaawansowanemu rozumowaniu, zamiast polegać wyłącznie na wzorcach historycznych.

Przytoczył przykład, w którym system zidentyfikował wcześniej nierozpoznaną wadę w implementacji FreeBSD, co pokazuje jego potencjał w zakresie proaktywnego cyberbezpieczeństwa.

Znaczenie strategiczne i napięcia polityczne

Pomimo obaw zainteresowanie Mythos wykracza poza Europę.

Raport Politico wskazał, że agencje USA i urzędnicy Kongresu wciąż angażują się w ocenę możliwości modelu, nawet po nałożeniu ograniczeń na współpracę z Anthropic.

Raport informował, że Centrum ds. Standardów i Innowacji AI w Departamencie Handlu testuje funkcje cyberbezpieczeństwa Mythos.

Pracownicy z kilku komisji kongresowych również zabiegali o briefingi dotyczące modelu.

Sytuacja uwypukla szersze napięcie.

Podczas gdy Pentagon uznał Anthropic za ryzyko dla łańcucha dostaw i zerwał powiązania biznesowe, części amerykańskiego rządu wydają się niechętne do zignorowania technologii postrzeganej jako strategicznie ważna.

Zakres tego zaangażowania pozostaje niejasny.

Jednak utrzymujące się zainteresowanie sugeruje, że zaawansowane narzędzia AI, takie jak Mythos, stają się coraz ważniejsze w polityce cyberbezpieczeństwa i bezpieczeństwa narodowego, nawet w obliczu ostrożności regulatorów.