Varför Anthropic går samman med Nvidia och Microsoft om cybersäkerhet

När området för artificiell intelligens växer till ett allt större jätte förbereder sig jättarna för nästa steg.

Anthropic bildar en allians med Nvidia, Microsoft och många andra teknikjättar för att hantera nästa våg av AI-system, som kan bli tillräckligt kraftfulla för att förändra cyberförsvaret.

Under ett nytt initiativ kallat Project Glasswing ger företaget utvalda partners tillgång till en opublicerad modell, Claude Mythos Preview.

Anthropic uppgav att systemet redan har upptäckt "tusentals" stora mjukvarusårbarheter.

Anthropics lanseringspartners inkluderar Microsoft, Nvidia, Amazon, Apple, Google, CrowdStrike, Palo Alto Networks, Cisco, Broadcom, JPMorgan Chase och Linux Foundation.

En modell så kraftfull att den oroar sin egen skapare

Anthropics grundläggande argument är att Mythos Preview inte helt enkelt är en bättre kodningsmodell.

Den är ovanligt skicklig på att hitta dolda svagheter i den programvara som ligger till grund för den moderna digitala ekonomin.

I sitt tillkännagivande uppgav företaget att modellen identifierade tusentals betydande sårbarheter i operativsystem.

Det förklarar varför Anthropic inte lanserar den som en vanlig produkt. Istället behandlar man modellen som ett verktyg som först måste testas under kontrollerade former.

Den skillnaden är viktig, eftersom en modell som snabbt kan upptäcka fel också kan förkorta tiden mellan att en sårbarhet identifieras och att den utnyttjas.

Anthropics offentliga inramning är att det säkraste första användningsområdet för ett sådant system är defensivt: att hjälpa betrodda organisationer att hitta och åtgärda svagheter innan angripare gör det.

Läs också – Anthropic–Pentagon-konflikt väcker nyckelfråga: vem hålls ansvarig om AI dödar?

Varför Microsoft, Nvidia och andra är viktiga

Partnerlistan visar att Anthropic försöker bygga en defensiv koalition kring de delar av det digitala systemet som betyder mest.

Microsoft bidrar med räckvidd över företagsprogramvara, molntjänster och säkerhetsverktyg. Nvidia sitter i centrum av AI-hårdvarustacken.

Amazon, Google och Apple kontrollerar stora delar av moln-, konsument- och programvaruinfrastrukturen.

CrowdStrike, Palo Alto Networks och Cisco är djupt integrerade i företagens cyberförsvar.

Broadcom, JPMorgan Chase och Linux Foundation representerar var och en kritiska lager av infrastruktur, finans och öppen källkod.

I praktiska termer är detta de typer av organisationer som kan upptäcka hot tidigt, testa system i skala och åtgärda sårbarheter snabbt.

Anthropic uppgav att lanseringspartners kommer att använda Mythos Preview i sitt defensiva säkerhetsarbete och att företaget kommer att dela sina fynd med branschen.

Man planerar också att ge tillgång till omkring 40 ytterligare organisationer som ansvarar för kritisk programvaruinfrastruktur.

Det får Project Glasswing att framstå mindre som en varumärkesövning och mer som ett försök att först placera kraftfulla AI-verktyg i händerna på institutioner som kan bära riskerna.

Den djupare historien är att AI i allt högre grad blir både ett hot och ett försvar.

Årets RSA-konferens om cybersäkerhet dominerades av diskussioner om AI-drivna attacker och huruvida konventionella försvar fortfarande är tillräckliga.

Problemet är inte bara att angripare kan använda AI för att agera snabbare, utan att försvarare kan behöva lika kapabla system bara för att hänga med.