Waarom Anthropic samenwerkt met Nvidia en Microsoft aan cyberbeveiliging

Naarmate de AI-sector elke dag uitgroeit tot een steeds grotere kolos, bereiden de grootmachten zich voor op de volgende stappen.

Anthropic gaat een alliantie aan met Nvidia, Microsoft en vele andere technologiereuzen om de volgende golf AI-systemen aan te pakken, die krachtig genoeg kunnen worden om cyberverdediging te hervormen.

Onder een nieuw initiatief genaamd Project Glasswing geeft de startup geselecteerde partners toegang tot een nog niet vrijgegeven model, Claude Mythos Preview.

Anthropic zei dat het systeem al "duizenden" grote softwarekwetsbaarheden heeft ontdekt.

De lanceringspartners van Anthropic zijn onder meer Microsoft, Nvidia, Amazon, Apple, Google, CrowdStrike, Palo Alto Networks, Cisco, Broadcom, JPMorgan Chase en de Linux Foundation.

Een model dat krachtig genoeg is om zijn eigen maker ongerust te maken

Het kernargument van Anthropic is dat Mythos Preview niet simpelweg een beter codeermodel is.

Het is uitzonderlijk bekwaam in het vinden van verborgen zwaktes in software die ten grondslag ligt aan de moderne digitale economie.

In haar aankondiging zei het bedrijf dat het model duizenden belangrijke kwetsbaarheden in besturingssystemen had geïdentificeerd.

Dat verklaart waarom Anthropic het niet uitrolt als een normale productlancering. In plaats daarvan wordt het model gezien als een instrument dat eerst onder gecontroleerde omstandigheden getest moet worden.

Dat onderscheid doet ertoe, want een model dat snel fouten kan ontdekken kan ook de tijd tussen het identificeren van een kwetsbaarheid en het uitbuiten ervan verkorten.

De publieke kadering van Anthropic is dat de veiligste eerste toepassing voor zo'n systeem defensief is: het helpen van vertrouwde organisaties om zwaktes te vinden en te verhelpen voordat aanvallers dat doen.

Lees ook- Botsing tussen Anthropic en het Pentagon roept cruciale vraag op: wie is aansprakelijk als AI doden veroorzaakt?

Waarom Microsoft, Nvidia en anderen ertoe doen

De partnerlijst toont dat Anthropic probeert een defensieve coalitie te vormen rond de onderdelen van het digitale systeem die het belangrijkst zijn.

Microsoft brengt bereik binnen bedrijfssoftware, cloud computing en beveiligingstools. Nvidia staat centraal in de AI-hardwarestack.

Amazon, Google en Apple beheersen grote delen van cloud-, consumenten- en software-infrastructuur.

CrowdStrike, Palo Alto Networks en Cisco zijn diep verankerd in de cyberverdediging van bedrijven.

Broadcom, JPMorgan Chase en de Linux Foundation vertegenwoordigen elk een cruciale laag binnen infrastructuur, financiën en open-source software.

In praktische zin zijn dit het soort organisaties dat bedreigingen vroeg kan signaleren, systemen op schaal kan testen en kwetsbaarheden snel kan dichten.

Anthropic zei dat lanceringspartners Mythos Preview zullen gebruiken in hun defensieve beveiligingswerk en dat het bedrijf de bevindingen met de sector zal delen.

Het is ook van plan de toegang uit te breiden tot ongeveer 40 aanvullende organisaties die verantwoordelijk zijn voor kritieke software-infrastructuur.

Dat maakt dat Project Glasswing minder op een branding-oefening lijkt en meer op een poging om krachtige AI-tools eerst bij instellingen te plaatsen die de risico's kunnen dragen.

De diepere boodschap is dat AI steeds meer zowel een bedreiging als een verdediging wordt.

De RSA-cybersecurityconferentie van dit jaar werd gedomineerd door discussies over door AI aangedreven aanvallen en de vraag of conventionele verdedigingen nog afdoende zijn.

Het probleem is niet alleen dat aanvallers AI kunnen inzetten om sneller te handelen, maar dat verdedigers mogelijk even krachtige systemen nodig hebben om bij te blijven.