Nvidia lanceert Open Secure AI Alliance tegen oplopende cyberdreigingen

Nvidia en een groep grote technologiebedrijven hebben maandag een nieuw initiatief gelanceerd dat zich richt op AI-veiligheid en -beveiliging voor open modellen.

Deze stap komt terwijl de technologiesector steeds meer bezorgd is over het gebruik van kunstmatige intelligentie bij cyberaanvallen en de toenemende controle op Chinese AI-modellen.

Het initiatief volgt op de bekendmaking van een cyberaanval waarbij een ongeautoriseerd OpenAI-model betrokken was.

Het voorval benadrukte zorgen over het vermogen van AI-systemen om aanvallers te onderscheiden van cybersecurityteams die zich tegen hen verdedigen.

De nieuwe alliantie heeft als doel open AI-tools te ontwikkelen en te delen.

Ook wil zij kwetsbaarheden aanpakken via open technologieën.

De inspanning komt op een moment dat Amerikaanse wetgevers steeds vaker maatregelen overwegen om de groeiende adoptie van Chinese AI-modellen te beperken.

Nieuwe alliantie richt zich op OpenAI-beveiliging

NVDA zei dat de nieuw gevormde Open Secure AI Alliance zich zal richten op het aanpakken van beveiligingslekken en het openbaar maken daarvan via het gebruik van open technologieën.

“De Open Secure AI Alliance zal werken aan het herstellen en openbaar maken van kwetsbaarheden met behulp van open technologieën,” zei Nvidia in een verklaring.

“Het recente beveiligingsincident bij Hugging Face gaf een duidelijke herinnering: cyberverdedigers hebben open, geavanceerde agentachtige systemen nodig voor zelfverdediging.”

De alliantie omvat Nvidia, Microsoft, SpaceX en Palantir, samen met tientallen andere technologiebedrijven uit de VS en Europa.

Het initiatief is gericht op open AI-modellen, die door gebruikers zelf gedownload, aangepast en gehost kunnen worden.

Dit verschilt van gesloten AI-modellen, waaronder frontier-systemen ontwikkeld door bedrijven zoals Anthropic en OpenAI, die alleen via specifieke infrastructuur toegankelijk zijn.

De inzet van de bedrijven voor open AI-tools komt na een recent beveiligingsincident waarbij Hugging Face, een AI-startup, het doelwit was van een cyberaanval.

Het bedrijf kon tijdens het incident geen gebruikmaken van toonaangevende Amerikaanse frontier-modellen om zich te verdedigen.

De veiligheidsmaatregelen op die systemen zouden naar verluidt geen onderscheid hebben gemaakt tussen een aanvaller en een verdediger.

Daarop besloot Hugging Face een zelf-gehost Chinees AI-model met open gewichten te gebruiken dat niet aan dezelfde beperkingen onderhevig was.

Het incident heeft de discussie aangewakkerd over de vraag of open AI-modellen een belangrijke rol kunnen spelen in cyberbeveiliging.

Het heeft ook vragen opgeworpen over de impact van beperkingen op het gebruik van geavanceerde AI-systemen.

Zorgen over beperkingen op Chinese AI-modellen

De lancering van de alliantie komt terwijl de oproepen toenemen voor maatregelen die de toegang tot AI-modellen ontwikkeld door Chinese bedrijven zouden kunnen beperken.

De meest geavanceerde Chinese AI-modellen zijn open-weight, waardoor ze gedownload en gebruikt kunnen worden op manieren die verschillen van gesloten AI-systemen.

Chinese AI-bedrijven werden er ook van beschuldigd campagnes te gebruiken om informatie te extraheren uit systemen die door Amerikaanse concurrenten worden beheerd.

Dit proces staat bekend als “distillatie,” waarbij het ene AI-model kennis onttrekt aan een beter getraind model.

Minister van Financiën Scott Bessent dreigde vorige week met sancties tegen Chinese bedrijven die distillatie-aanvallen uitvoeren op Amerikaanse bedrijven.

Het vooruitzicht van nieuwe beperkingen heeft onzekerheid toegevoegd aan de toekomst van open-weight AI-modellen en hun beschikbaarheid.

De industrie waarschuwt voor voortijdige beperkingen

Chris McGuire, senior fellow voor China en opkomende technologieën bij de Council on Foreign Relations, zei dat de Amerikaanse regering mogelijk beperkingen op Chinese AI-modellen zou kunnen invoeren.

“Er is een reële mogelijkheid dat de Amerikaanse regering beperkingen oplegt aan Chinese modellen,” zei McGuire tegen CNBC.

Tegelijkertijd hebben grote technologiebedrijven beleidsmakers opgeroepen een voorzichtige aanpak te hanteren bij het reguleren van open-weight AI.

Vorige week publiceerden Nvidia, Microsoft, Meta, Palantir en meer dan 20 andere bedrijven een brief waarin zij beleidsmakers opriepen “premature beperkingen” op open-weight AI-modellen te vermijden.

De bedrijven stelden dat dergelijke beperkingen de concurrentie zouden kunnen verstikken of innovatie naar het buitenland zouden kunnen drijven.

Het debat weerspiegelt een groeiende spanning binnen de AI-industrie.

Bedrijven en beleidsmakers proberen de beveiligingsrisico's van geavanceerde AI-systemen aan te pakken en tegelijkertijd te zorgen dat ontwikkelaars en cybersecurityteams toegang hebben tot krachtige hulpmiddelen.

Voor Nvidia en zijn partners vertegenwoordigt de Open Secure AI Alliance een stap om de rol van open technologieën in AI-beveiliging te versterken.

Het initiatief komt ook op een moment dat beleidsmakers overwegen hoe te reageren op de snelle adoptie van Chinese AI-modellen en de bredere ontwikkeling van open-weight kunstmatige intelligentie.