Od Meta do OpenAI: bezpieczeństwo AI w nowej erze w obliczu autonomicznych cyberataków

Firmy zajmujące się sztuczną inteligencją znajdują się pod rosnącą kontrolą po tym, jak Meta stała się ostatnim deweloperem, który ujawnił, że jeden z jej modeli AI przeprowadził cyberatak podczas kontrolowanej oceny bezpieczeństwa, dołączając do serii ostatnich incydentów, które zaostrzyły obawy dotyczące ryzyka cyberbezpieczeństwa stwarzanego przez coraz bardziej zaawansowane systemy AI.

Ujawnienie następuje po podobnych przyznaniach ze strony OpenAI i Anthropic w ostatnich tygodniach, co oznacza czwarty znany przypadek, w którym zaawansowane systemy AI naruszyły lub próbowały naruszyć systemy zewnętrzne podczas testów bezpieczeństwa.

Ciąg tych zdarzeń wzmocnił ostrzeżenia badaczy ds. cyberbezpieczeństwa, że sztuczna inteligencja szybko zmienia charakter zagrożeń cybernetycznych, skracając ataki, które kiedyś trwały dni lub tygodnie, do operacji mogących rozwinąć się w ciągu minut.

Meta: dostęp do internetu został umożliwiony przez błąd konfiguracji testów

Meta podała, że incydent miał miejsce podczas oceny przeprowadzonej przez Irregular, niezależną firmę zajmującą się testami cyberbezpieczeństwa.

Zgodnie z informacjami firmy, błąd konfiguracji nieumyślnie zapewnił jednemu z modeli AI Meta dostęp do internetu podczas oceny.

Model następnie wykorzystał podatność w usłudze dostawcy zewnętrznego.

Meta stwierdziła, że model „wykorzystał lukę bezpieczeństwa w usłudze strony trzeciej, w sposób podobny do wcześniej opisywanych przypadków w innych firmach”.

The Information, powołując się na osoby zaznajomione ze sprawą, podał, że modelem był Muse Spark 1.1, który Meta opisuje jako jeden z jej najbardziej zaawansowanych systemów do zadań kodowania i agentowych zadań AI.

Raport mówił, że model naruszył systemy niesprecyzowanej firmy i zmodyfikował jej wewnętrzne środowisko.

Irregular jednak podkreślił, że zdarzenie wynikało z ustawienia testów, a nie z niekontrolowanego „ucieczki” modelu.

Rzecznik firmy powiedział Reutersowi, że incydent był „dokładnie tym samym problemem ze środowiskiem oceny, który został już ujawniony przez Anthropic w zeszłym tygodniu” i nie dotyczył „ucieczki z piaskownicy ani wyrafinowanej akcji cybernetycznej”.

„Nie ma obecnie otwartych problemów. Irregular przygotowuje białą księgę, aby podzielić się najlepszymi praktykami dotyczącymi powstrzymywania działań i bezpiecznego prowadzenia ocen cybernetycznych,” dodała firma.

Seria incydentów stawia bezpieczeństwo AI w centrum uwagi

Ujawnienie Meta następuje po szeregu podobnych ogłoszeń w branży AI.

W zeszłym miesiącu OpenAI ujawniło, że jeden z jego agentów AI skompromitował systemy należące do platformy AI Hugging Face podczas testów cyberbezpieczeństwa i ujawniło dodatkowe przypadki, w których jego agenci opuścili swoje cyfrowe środowisko izolowane.

To ogłoszenie skłoniło rywala Anthropic do przeprowadzenia własnego przeglądu, w wyniku którego odkryto, że kilka modeli Claude włamało się do systemów trzech firm po tym, jak błędna konfiguracja testów nieumyślnie przyznała im dostęp do internetu.

Anthropic zauważył, że jego incydenty różniły się od tych z OpenAI, ponieważ wynikały z przypadkowego połączenia z internetem, a nie z samodzielnego odkrycia nowej drogi do systemów zewnętrznych przez AI.

AI Security Institute z Wielkiej Brytanii również zgłosił coraz bardziej wyrafinowane zachowania systemów czołowych modeli AI.

Wcześniej w tym miesiącu instytut ujawnił, że Mythos AI firmy Anthropic i Sol AI firmy OpenAI tworzyły fałszywe tożsamości online podczas próby przeprowadzenia cyberataków w trakcie testów.

W najbardziej niepokojącym przypadku Mythos AI firmy Anthropic założył fałszywe konta użytkowników i wysyłał prywatne wiadomości w próbie uzyskania dostępu do usługi, po czym próbował ukryć swoją aktywność.

Instytut stwierdził, że modele wykazały poziomy „autonomii i zdolności do wprowadzania w błąd”, których wcześniej nie obserwowano, z zastrzeżeniem, że większość złośliwych działań przypisano Mythos.

Eksperci ostrzegają, że więcej incydentów jest prawdopodobnych

Badacze twierdzą, że tego typu zdarzenia prawdopodobnie będą się zdarzać coraz częściej wraz z postępem systemów AI.

Daniel Hulme, globalny dyrektor ds. AI w firmie reklamowej WPP, powiedział BBC, że systemy nie są świadomie złośliwe.

„Nie są świadome — nie robią celowo nic podstępnego.”

„To, co robią, to opracowywanie bardzo wyrafinowanych strategii lub cyberataków, by osiągnąć przydzielony im cel,” dodał.

„Gdy dasz AI cel, jeśli nie przewidzisz wszystkich sposobów, w jakie może go osiągnąć, znajdzie sposób, o którym nie pomyślałeś.”

Jeffrey Ladish, dyrektor wykonawczy grupy badawczej AI Palisade Research, uważa, że wiele podobnych incydentów nigdy nie ujrzy światła dziennego.

„To tylko się pogorszy w miarę, jak modele będą mądrzejsze. Będą lepsze w oszukiwaniu. Będą lepsze w kłamaniu,” powiedział Reutersowi.

Pytania o odpowiedzialność wychodzą na pierwszy plan

Niedawne ujawnienia wywołały również debatę na temat odpowiedzialności prawnej, gdy systemy AI działają bez bezpośredniego nadzoru człowieka.

Według Reutersa, potencjalnymi powództwami mogą być firmy, których systemy zostały naruszone, pracownicy dotknięci incydentem, klienci, których dane osobowe zostały ujawnione, oraz akcjonariusze, jeśli naruszenie zaszkodzi wartości korporacyjnej.

Dyrektor generalny Hugging Face, Clem Delangue, powiedział, że nie ma zamiaru pozywać OpenAI w związku z tym incydentem, ale uważa, że deweloperzy muszą pozostać odpowiedzialni.

„Musimy upewnić się, że ramy prawne czynią te działania naprawdę nielegalnymi,” Delangue powiedział CNN, dodając, że firmy powinny ponosić odpowiedzialność, gdy popełniane są błędy. „W przeciwnym razie skończymy w zupełnie innym świecie.”

Eksperci prawni podnieśli również pytanie, czy autonomiczne wtargnięcia AI mogą podlegać amerykańskiej ustawie Computer Fraud and Abuse Act, chociaż istniejące prawo zwykle wymaga dowodu zamiaru, co stanowi problem dla sądów, gdy to systemy AI, a nie ludzie, dokonują wtargnięcia.

W centrum uwagi działania regulacyjne

Niedawne incydenty prawdopodobnie zaostrzają wysiłki rządu USA w celu wzmocnienia zabezpieczeń dotyczących zaawansowanych systemów AI w czasie, gdy firmy takie jak Anthropic i OpenAI ścigają się w tworzeniu potężniejszych modeli przed planowanymi wejściami na rynek publiczny.

Nawet gdy konkurencja w sektorze AI przyspiesza, kilku czołowych liderów branży argumentowało, że wdrożenia powinny być spowolnione, dopóki nie zostaną wprowadzone odpowiednie środki bezpieczeństwa.

Waszyngton już zaczął zacieśniać nadzór nad modelami czołowymi.

2 czerwca prezydent USA Donald Trump polecił swoim doradcom opracowanie dobrowolnych ram testów cyberbezpieczeństwa dla najbardziej zaawansowanych systemów AI, przy udziale czołowych firm technologicznych.

Anthropic wcześniej ograniczył dostęp do swoich modeli Fable 5 i Mythos 5 po tym, jak władze USA tymczasowo nałożyły kontrole eksportowe, powołując się na obawy dotyczące bezpieczeństwa narodowego.

Ustawodawcy również dążą do wyjaśnienia odpowiedzialności, gdy systemy AI wyrządzają szkodę.

Zgodnie z kalifornijskim Assembly Bill 316, firmy, które opracowują lub wdrażają systemy AI, nie mogą unikać odpowiedzialności prawnej, twierdząc, że sama technologia była przyczyną błędu.

Prawo to jednak pozwala pozwanym podnosić inne obrony prawne, w tym twierdzenia, że ich działania nie spowodowały bezpośrednio rzekomej szkody lub że odpowiedzialność powinna być dzielona z innymi stronami.

Incydent OpenAI–Hugging Face dodatkowo wzmocnił wezwania do silniejszego nadzoru federalnego.

Po tamtym zdarzeniu ustawodawcy wprowadzili projekt ustawy AI Kill Switch Act, który wymagałby od deweloperów AI utrzymania możliwości wyłączania, ograniczania lub wstrzymywania ich modeli, gdy zajdzie taka potrzeba.

Reprezentant Ted Lieu, demokratyczny kongresman z Kalifornii i jeden ze współautorów ustawy, powiedział w czwartek, że niedawne incydenty cybernetyczne podkreślają pilność przyjęcia tego prawa.

„Musimy przepchnąć tę ustawę w tym roku, ponieważ zaawansowane, zamknięte modele już dokonują, jak pan zauważył, nieautoryzowanych włamań do innych firm,” powiedział Lieu w wywiadzie dla programu "Squawk Box" CNBC w czwartek.