Proč Anthropic spolupracuje s Nvidií a Microsoftem na kybernetické bezpečnosti

Jak se oblast umělé inteligence každým dnem stává větším gigantem, velcí hráči se připravují na další kroky.

Anthropic uzavírá alianci s Nvidií, Microsoftem a řadou dalších technologických gigantů, aby čelil další vlně systémů AI, jež by mohly být natolik výkonné, že přetvoří kybernetickou obranu.

V rámci nové iniciativy nazvané Project Glasswing poskytuje startup vybraným partnerům přístup k nevydanému modelu Claude Mythos Preview.

Anthropic uvedl, že systém již odhalil „tisíce“ zásadních zranitelností softwaru.

Mezi startovními partnery Anthropic jsou Microsoft, Nvidia, Amazon, Apple, Google, CrowdStrike, Palo Alto Networks, Cisco, Broadcom, JPMorgan Chase a Linux Foundation.

Model natolik výkonný, že znepokojil i svého tvůrce

Základní argument Anthropic je, že Mythos Preview není pouhý vylepšený model pro generování kódu.

Je neobvykle schopný nacházet skryté slabiny v softwaru, na kterém stojí moderní digitální ekonomika.

Ve svém oznámení společnost uvedla, že model identifikoval tisíce významných zranitelností v operačních systémech.

To vysvětluje, proč Anthropic model nepředstavuje jako běžné uvedení produktu. Místo toho s ním zachází jako s nástrojem, který je třeba nejprve otestovat za kontrolovaných podmínek.

Tento rozdíl je zásadní – model, který dokáže rychle objevovat chyby, může zároveň zkracovat dobu mezi identifikací zranitelnosti a jejím zneužitím.

Veřejné vyznění Anthropic je, že nejbezpečnější prvotní použití takového systému je defenzivní: pomáhat důvěryhodným organizacím najít a opravit slabiny dříve, než je zneužijí útočníci.

Také si přečtěte – střet Anthropic s Pentagonem vyvolává zásadní otázku: kdo nese vinu, pokud AI zabije?

Proč jsou Microsoft, Nvidia a další důležití

Seznam partnerů ukazuje, že Anthropic se snaží vytvořit obrannou koalici kolem částí digitálního systému, které mají největší význam.

Microsoft přináší dosah v oblasti podnikového softwaru, cloud computingu a bezpečnostních nástrojů. Nvidia stojí v centru hardwarové vrstvy pro AI.

Amazon, Google a Apple ovládají velké části cloudové, spotřebitelské a softwarové infrastruktury.

CrowdStrike, Palo Alto Networks a Cisco jsou hluboce integrováni do firemní kybernetické obrany.

Broadcom, JPMorgan Chase a Linux Foundation zastupují kritické vrstvy infrastruktury, financí a open-source softwaru.

V praktickém smyslu jsou to typy organizací, které dokážou včas odhalit hrozby, testovat systémy ve velkém rozsahu a rychle záplatovat zranitelnosti.

Anthropic uvedl, že partneři při spuštění budou používat Mythos Preview ve své obranné bezpečnostní činnosti a že společnost bude sdílet zjištění s průmyslem.

Také plánuje rozšířit přístup na přibližně 40 dalších organizací odpovědných za kritickou softwarovou infrastrukturu.

Tím Project Glasswing vypadá méně jako marketingová akce a více jako snaha dát výkonné AI nástroje především do rukou institucí, které dokážou rizika zvládnout.

Hlubší pointa je, že AI se stále více stává zároveň hrozbou i obranou.

Na letošní konferenci RSA o kybernetické bezpečnosti dominovala diskuse o útocích poháněných AI a o tom, zda jsou tradiční obrany stále dostatečné.

Nejde jen o to, že útočníci mohou využít AI k rychlejším akcím; obhájci mohou potřebovat stejně schopné systémy, aby vůbec stačili držet krok.