Hvorfor Anthropic slår sig sammen med Nvidia og Microsoft om cybersikkerhed

Efterhånden som feltet for kunstig intelligens vokser sig større for hver dag, forbereder giganterne sig på næste skridt.

Anthropic indgår i et samarbejde med Nvidia, Microsoft og en række andre teknologigiganter for at håndtere næste bølge af AI-systemer, som kan blive kraftfulde nok til at omforme cyberforsvar.

Under et nyt initiativ, Project Glasswing, giver startuppen udvalgte partnere adgang til en endnu ikke udgivet model, Claude Mythos Preview.

Anthropic oplyste, at systemet allerede har opdaget "tusindvis" af væsentlige software-sårbarheder.

Anthropics launchpartnere omfatter Microsoft, Nvidia, Amazon, Apple, Google, CrowdStrike, Palo Alto Networks, Cisco, Broadcom, JPMorgan Chase og Linux Foundation.

En model så kraftfuld, at den alarmerer sin egen skaber

Anthropics grundlæggende påstand er, at Mythos Preview ikke blot er en forbedret model til kodning.

Den er usædvanligt dygtig til at finde skjulte svagheder i software, som understøtter den moderne digitale økonomi.

I sin meddelelse sagde virksomheden, at modellen identificerede tusindvis af væsentlige sårbarheder i operativsystemer.

Det forklarer, hvorfor Anthropic ikke udruller den som en almindelig produktlancering. I stedet behandler de modellen som et værktøj, der først skal testes under kontrollerede forhold.

Denne sondring er vigtig, fordi en model, der hurtigt kan finde fejl, også kan formindske tiden mellem at identificere en sårbarhed og at udnytte den.

Anthropics offentlige forklaring er, at det sikreste første anvendelsesområde for et sådant system er defensivt: at hjælpe betroede organisationer med at finde og udbedre svagheder, før angribere gør det.

Læs også — Konflikten mellem Anthropic og Pentagon rejser et nøglespørgsmål: hvem bærer ansvaret, hvis AI dræber?

Hvorfor Microsoft, Nvidia og andre er vigtige

Partnerlisten viser, at Anthropic forsøger at opbygge en defensiv koalition omkring de dele af det digitale system, der er vigtigst.

Microsoft bidrager med rækkevidde inden for virksomhedsoftware, cloud computing og sikkerhedsværktøjer. Nvidia sidder i centrum af AI-hardwarelaget.

Amazon, Google og Apple kontrollerer væsentlige dele af cloud-, forbruger- og softwareinfrastrukturen.

CrowdStrike, Palo Alto Networks og Cisco er dybt indlejret i virksomhedernes cyberforsvar.

Broadcom, JPMorgan Chase og Linux Foundation repræsenterer hver især kritiske lag af infrastruktur, finans og open-source-software.

I praksis er det de typer organisationer, der kan opdage trusler tidligt, teste systemer i skala og rette sårbarheder hurtigt.

Anthropic oplyste, at lanceringens partnere vil bruge Mythos Preview i deres defensive sikkerhedsarbejde, og at virksomheden vil dele sine fund med branchen.

Den planlægger også at udvide adgangen til omkring 40 yderligere organisationer, der er ansvarlige for kritisk softwareinfrastruktur.

Det får Project Glasswing til at ligne mindre en branding-øvelse og mere et forsøg på at placere kraftfulde AI-værktøjer i hænderne på institutioner, der kan absorbere risiciene.

Det dybere perspektiv er, at AI i stigende grad bliver både en trussel og et forsvar.

Årets RSA-cybersikkerhedskonference blev domineret af diskussioner om AI-drevne angreb og hvorvidt konventionelle forsvar stadig er tilstrækkelige.

Problemet er ikke kun, at angribere kan bruge AI til at handle hurtigere, men også at forsvarere kan få brug for lige så kapable systemer bare for at følge med.