Dlaczego Mythos AI firmy Anthropic niepokoi regulatorów i banki centralne

Organy nadzorcze sektora finansowego w największych gospodarkach zaostrzają kontrolę nad potężnym, nowym modelem sztucznej inteligencji opracowanym przez Anthropic, w związku z rosnącymi obawami, że jego zaawansowane możliwości mogą ujawnić słabości w krytycznych systemach finansowych i cyfrowych.

Władze w Japonii, Europie, Indiach i innych regionach koordynują działania, ponieważ model znany jako Mythos rodzi nowe pytania dotyczące ryzyka cyberbezpieczeństwa w coraz bardziej napędzanym przez AI świecie.

Japonia zwołuje spotkanie największych banków i regulatorów

W Japonii Financial Services Agency poinformowała w środę, że w piątek zorganizuje spotkanie na wysokim szczeblu z największymi grupami bankowymi w kraju, w tym Mitsubishi UFJ Financial Group, Sumitomo Mitsui Financial Group i Mizuho Financial Group.

W spotkaniu wezmą również udział Bank of Japan i Tokyo Stock Exchange, co odzwierciedla zakres zaniepokojenia w całym systemie finansowym.

Satsuki Katayama powiedziała, że celem jest zgromadzenie kluczowych interesariuszy w celu oceny rozwijającej się sytuacji.

„Połączymy ze sobą najważniejszych uczestników, którzy ponoszą największą odpowiedzialność, aby podzielić się ocenami bieżącej sytuacji i wymienić poglądy, w tym na kwestie sygnalizowane w różnych częściach międzynarodowej społeczności finansowej” — powiedziała.

Banki centralne na świecie w stanie gotowości

Regulatorzy w innych regionach podejmują podobne kroki.

Reserve Bank of Australia poinformował w środę, że uważnie monitoruje rozwój sytuacji oraz „współpracuje z regulatorami z innych krajów, władzami oraz podmiotami objętymi nadzorem”.

Tymczasem Reserve Bank of New Zealand w środę określił ryzyka jako „narastające” i potwierdził, że koordynuje działania z partnerami krajowymi oraz australijskimi.

Do globalnych wysiłków dołączyły także Indie.

Zgodnie z raportem Reutersa, Reserve Bank of India prowadzi rozmowy z międzynarodowymi regulatorami, kredytodawcami i przedstawicielami rządu w celu oceny potencjalnych zagrożeń.

Wstępne oceny sugerują, że model mógłby przyspieszyć odkrywanie i wykorzystywanie luk w oprogramowaniu, co zwiększa obawy dotyczące cyberbezpieczeństwa.

Sprawa dotarła do najwyższych szczebli światowej polityki gospodarczej.

Kanadyjski minister finansów François-Philippe Champagne powiedział BBC, że model był omawiany na niedawnym spotkaniu Międzynarodowego Funduszu Walutowego w Waszyngtonie.

„Zdecydowanie jest to na tyle poważne, że zasługuje na uwagę wszystkich ministrów finansów” — dodał, opisując technologię jako „unknown unknown”.

Podobnie Andrew Bailey z Bank of England ostrzegł, że władze uważnie analizują konsekwencje.

„Musimy teraz bardzo uważnie przyjrzeć się temu, co ten najnowszy rozwój w dziedzinie AI może oznaczać dla ryzyka cyberprzestępczości” — powiedział BBC.

Broń obosieczna dla cyberbezpieczeństwa

Chociaż Mythos został zaprojektowany z myślą o zastosowaniach defensywnych w cyberbezpieczeństwie, jego możliwości wzbudziły niepokój.

Anthropic poinformował, że wczesne testy ujawniły „tysiące” istotnych podatności w głównych systemach operacyjnych i przeglądarkach internetowych.

We wtorek prezes Bundesbanku Joachim Nagel określił model jako „broń obosieczną”.

„Może być wykorzystany nie tylko do poprawy systemów zabezpieczeń cyfrowych, lecz także do wykorzystania ich słabości w celach złośliwych.”

Eksperci twierdzą, że obawa dotyczy szybkości i skali, z jaką taki system AI może identyfikować i wykorzystywać luki — znacznie przewyższając tradycyjne reakcje bezpieczeństwa.

Dlaczego Anthropic ograniczył dostęp do modelu?

Anthropic ograniczył dostęp do modelu poprzez kontrolowaną inicjatywę nazwaną Project Glasswing.

Wybrane organizacje, w tym Amazon, Microsoft, Nvidia i Apple, otrzymały wczesny dostęp, obok kilkudziesięciu podmiotów odpowiedzialnych za utrzymanie krytycznej infrastruktury cyfrowej.

W materiale wideo z premiery Dario Amodei powiedział, że firma zaoferowała współpracę władzom USA, aby „pomóc w obronie przed ryzykiem związanym z tymi modelami”.

Testy prowadzone przez niezależnych badaczy, w tym tzw. „red teams”, uwypukliły zaawansowane możliwości modelu.

Według Anthropic Mythos potrafi samodzielnie identyfikować krytyczne błędy w systemach legacy i nawet sugerować metody ich wykorzystania.

„Mythos Preview już znalazł tysiące podatności o wysokiej wadze, w tym w każdym głównym systemie operacyjnym i przeglądarce internetowej” — podała firma.

„Biorąc pod uwagę tempo postępu AI, stosunkowo szybko takie możliwości mogą się rozpowszechnić, potencjalnie poza aktorami zobowiązanymi do bezpiecznego ich wdrażania.”

Największe ryzyko w systemach legacy

Potencjalne zagrożenie jest szczególnie poważne w sektorach opierających się na złożonej i starzejącej się infrastrukturze.

Raport Bain & Company wskazał, że branże takie jak energetyka, przemysł i transport mogą mierzyć się ze zwiększonym ryzykiem z powodu przestarzałych systemów, które trudno załatać.

Banki również są narażone ze względu na zależność od wzajemnie powiązanych systemów, z których niektóre mają już dekady.

Jednak raport podkreślił, że ryzyka są możliwe do opanowania przy zastosowaniu silnych praktyk cyberbezpieczeństwa.

„Zagrożenie jest poważne, ale nie nie do pokonania; solidne podstawy cyberbezpieczeństwa są najlepszą obroną” — wskazano, dodając, że istniejące zabezpieczenia takie jak segmentacja sieci, kontrola dostępu i wykrywanie anomalii mogą zapewnić znaczącą ochronę.

Uwaga przesuwa się na gotowość, nie panikę

Zamiast gwałtownego tworzenia zupełnie nowych, specyficznych dla AI zabezpieczeń, eksperci uważają, że organizacje powinny priorytetowo wzmocnić istniejące ramy bezpieczeństwa.

Zalecenia obejmują utworzenie dedykowanych zespołów reagowania na zagrożenia związane z AI, poprawę podstawowych środków cyberbezpieczeństwa oraz usuwanie podatności w środowiskach technologii operacyjnej (OT).

W miarę rozszerzania się dostępu do potężnych systemów AI regulatorzy i firmy stoją przed trudnym zadaniem — wykorzystania korzyści innowacji przy jednoczesnym zabezpieczaniu się przed niezamierzonymi konsekwencjami.

Szybka globalna reakcja na Mythos sugeruje, że decydenci doskonale zdają sobie sprawę z wagi sytuacji.

Czy te wczesne działania wystarczą, by złagodzić ryzyka związane z kolejną generacją AI — pozostaje kwestią otwartą.