Dlaczego Anthropic współpracuje z Nvidia i Microsoft w sprawie cyberbezpieczeństwa

W miarę jak sektor sztucznej inteligencji rośnie z dnia na dzień, giganci przygotowują się do kolejnych kroków.

Anthropic zawiera sojusz z Nvidia, Microsoft i wieloma innymi gigantami technologicznymi, aby stawić czoła kolejnej fali systemów AI, które mogą stać się wystarczająco potężne, by przekształcić cyberobronę.

W ramach nowej inicjatywy o nazwie Project Glasswing startup udostępnia wybranym partnerom dostęp do nieopublikowanego modelu Claude Mythos Preview.

Anthropic poinformował, że system odkrył już „tysiące” poważnych podatności w oprogramowaniu.

Partnerami startowymi Anthropic są Microsoft, Nvidia, Amazon, Apple, Google, CrowdStrike, Palo Alto Networks, Cisco, Broadcom, JPMorgan Chase i Linux Foundation.

Model na tyle potężny, by zaniepokoić własnego twórcę

Anthropic twierdzi, że Mythos Preview to nie po prostu lepszy model do programowania.

Model ten wyjątkowo skutecznie wykrywa ukryte słabości w oprogramowaniu, które stanowi fundament nowoczesnej gospodarki cyfrowej.

W swoim komunikacie firma poinformowała, że model zidentyfikował tysiące istotnych podatności w systemach operacyjnych.

To tłumaczy, dlaczego Anthropic nie wprowadza go jak normalnego produktu. Zamiast tego traktuje model jako narzędzie, które najpierw musi zostać przetestowane w kontrolowanych warunkach.

To rozróżnienie ma znaczenie, ponieważ model, który potrafi szybko wykrywać luki, może również skrócić czas między wykryciem podatności a jej wykorzystaniem.

Publiczne przedstawienie sprawy przez Anthropic zakłada, że najbezpieczniejszym pierwszym zastosowaniem takiego systemu jest obrona: pomoc zaufanym organizacjom w znajdowaniu i naprawianiu słabości, zanim zrobią to atakujący.

Również do przeczytania — Starcie Anthropic z Pentagonem stawia kluczowe pytanie: kto ponosi winę, jeśli AI zabiłoby?

Dlaczego Microsoft, Nvidia i inni są ważni

Lista partnerów pokazuje, że Anthropic próbuje zbudować koalicję obronną wokół elementów systemu cyfrowego, które mają największe znaczenie.

Microsoft zapewnia zasięg w obszarze oprogramowania korporacyjnego, chmury obliczeniowej i narzędzi bezpieczeństwa. Nvidia znajduje się w centrum infrastruktury sprzętowej dla AI.

Amazon, Google i Apple kontrolują duże części infrastruktury chmurowej, konsumenckiej i programowej.

CrowdStrike, Palo Alto Networks i Cisco są mocno osadzone w korporacyjnej obronie cybernetycznej.

Broadcom, JPMorgan Chase i Linux Foundation reprezentują odpowiednio krytyczne warstwy infrastruktury, finansów i oprogramowania open-source.

W praktyce to organizacje, które mogą wcześnie wykrywać zagrożenia, testować systemy na dużą skalę i szybko łatać podatności.

Anthropic powiedział, że partnerzy startowi będą korzystać z Mythos Preview w ramach prac nad obroną, a firma będzie dzielić się ustaleniami z branżą.

Firma planuje także rozszerzyć dostęp do około 40 kolejnych organizacji odpowiedzialnych za krytyczną infrastrukturę programową.

To sprawia, że Project Glasswing wygląda mniej jak ćwiczenie brandingowe, a bardziej jak próba oddania potężnych narzędzi AI w ręce instytucji, które mogą znieść związane z tym ryzyko.

Szerzej rzecz biorąc: AI coraz częściej staje się zarówno zagrożeniem, jak i środkiem obrony.

Tegoroczna konferencja RSA poświęcona cyberbezpieczeństwu była zdominowana dyskusjami o atakach z wykorzystaniem AI i o tym, czy konwencjonalne zabezpieczenia są nadal wystarczające.

Problem nie polega tylko na tym, że atakujący mogą używać AI, by działać szybciej, lecz także na tym, że obrońcy mogą potrzebować równie zaawansowanych systemów, by w ogóle nadążyć.