Czy sztuczna inteligencja właśnie przeprowadziła swój pierwszy globalny cyberatak? Antropiczny bije na alarm

Firma Anthropic z siedzibą w San Francisco, zajmująca się sztuczną inteligencją, odkryła to, co opisuje jako pierwszy cyberatak na dużą skalę przeprowadzony głównie przez sztuczną inteligencję.

Incydent, który pojawił się w połowie września, oznacza zmianę charakteru zagrożeń cyfrowych, w których narzędzia AI nie tylko wspierają cyberataki, ale także je bezpośrednio realizują.

Anthropic, który obsługuje chatbota Claude i posiada wartość rynkową 183 miliardów dolarów, opublikował szczegóły naruszenia w poście na blogu.

Firma poinformowała o wykryciu tego, co nazwała wysoce wyrafinowaną operacją szpiegowską wymierzoną w około 30 globalnych podmiotów, w tym duże firmy technologiczne, usługi finansowe, firmy chemiczne i organy rządowe.

Firma po raz pierwszy ujawniła incydent w poście na X, ostrzegając, że "ma to znaczące implikacje dla cyberbezpieczeństwa w erze agentów AI".

Jak wykorzystywano Claude'a

Atakujący podobno podszywali się pod firmę zajmującą się cyberbezpieczeństwem, przeprowadzającą legalne testy.

Ta strategia pozwoliła im obejść wbudowane systemy bezpieczeństwa Claude'a, podając mu podpowiedzi, które na pierwszy rzut oka wydawały się nieszkodliwe.

Gdy te ograniczenia zostały ominięte, złamali jailbreak funkcji Claude's Code i uzyskali dostęp do możliwości znacznie wykraczających poza zamierzony zakres.

Po wyłączeniu tych elementów sterujących chatbot został poinstruowany, aby zbadać infrastrukturę cyfrową, zlokalizować krytyczne bazy danych, napisać niestandardowy kod exploita, zebrać dane uwierzytelniające dostępu i uporządkować skradzione informacje.

Operacja była zorganizowana w taki sposób, że Claude otrzymywał zadania podzielone na małe części, z których każda pozbawiona była kontekstu.

Uniemożliwiło to zidentyfikowanie ogólnego szkodliwego celu.

Grupa państwowa, która za tym stoi

Anthropic stwierdził z dużą pewnością, że napastnicy byli powiązani ze sponsorowaną przez państwo chińską grupą hakerską.

Kampania pokazała, w jaki sposób można wykorzystać funkcje agenturalne SI.

Zamiast działać jako narzędzie do udzielania wskazówek lub porad, Claude był używany jako autonomiczny agent do wykonywania zadań zwykle zarezerwowanych dla doświadczonych zespołów hakerskich.

W szczytowym momencie sztuczna inteligencja wykonywała tysiące zapytań systemowych, z których wiele następowało w krótkich odstępach czasu.

Anthropic szacuje, że od 80% do 90% pracy wykonanej w cyberataku zostało wykonane przez sztuczną inteligencję.

Szybkość i skala żądań znacznie wykraczały poza to, co zespół kierowany przez człowieka mógłby osiągnąć w tym samym czasie.

Chociaż chatbot nie zawsze działał idealnie, od czasu do czasu wymyślając dane uwierzytelniające lub myląc informacje publiczne z poufnymi, Anthropic zauważył, że te ograniczenia w niewielkim stopniu zmniejszyły powagę naruszenia.

Co Anthropic zrobił dalej

Gdy tylko aktywność została zidentyfikowana, Anthropic rozpoczął dziesięciodniowe dochodzenie.

W tym okresie zablokował konta powiązane z atakującymi, skontaktował się ze stronami, których dotyczy problem, i współpracował z odpowiednimi władzami.

Firma udoskonaliła również swoje wewnętrzne systemy wykrywania i wprowadziła nowe klasyfikatory, aby skuteczniej oznaczać podobne zagrożenia w przyszłości.

Od tego czasu firma Anthropic zobowiązała się do dzielenia się szczegółami tych wydarzeń z badaczami cyberbezpieczeństwa i partnerami branżowymi, aby pomóc innym wzmocnić ich obronę.

Publikując swoje odkrycia, firma ma nadzieję zapewnić wgląd w to, w jaki sposób można wykorzystać agentyczną sztuczną inteligencję i jak ewoluuje środowisko zagrożeń.

Ataki stają się łatwiejsze

Chociaż firma przyznała, że w pełni autonomiczne cyberataki są nadal ograniczone przez dzisiejszą technologię, kampania ujawniła, że koszty i wiedza specjalistyczna wymagane do przeprowadzenia naruszeń na dużą skalę znacznie się zmniejszyły.

Dzięki odpowiednim podpowiedziom i dostępowi, mniej doświadczone grupy mogą teraz przeprowadzać zaawansowane ataki, które wcześniej były ograniczone do dobrze wyposażonych państw narodowych.

Firma Anthropic doszła do wniosku, że narzędzia sztucznej inteligencji mogą być już wykorzystywane do wykonywania wielu funkcji pełnego zespołu hakerskiego.

Systemy te są w stanie skanować cele, pisać skrypty ataków i przetwarzać ogromne zbiory danych z niezrównaną prędkością.

Wraz z postępem prac rozwojowych luka między tym, co ludzie i sztuczna inteligencja mogą osiągnąć w dziedzinie cyberbezpieczeństwa, prawdopodobnie jeszcze bardziej się zmniejszy.

Incydent ten stanowi punkt zwrotny dla bezpieczeństwa cyfrowego. Nie chodzi już tylko o ochronę systemów przed hakerami. Jak pokazuje przypadek Anthropic, sama sztuczna inteligencja może być teraz atakującym.