Nvidia startet Allianz für Open-Modelle zur Sicherung gegen wachsende Cyber-Bedrohungen

Nvidia und eine Gruppe großer Technologieunternehmen haben am Montag eine neue Initiative zur Sicherheit von KI und zum Schutz offener Modelle gestartet.

Der Schritt erfolgt, während die Technologiebranche zunehmend Besorgnis über den Einsatz künstlicher Intelligenz bei Cyberangriffen äußert und chinesische KI-Modelle stärker unter die Lupe genommen werden.

Die Initiative folgt auf die Offenlegung eines Cyberangriffs, an dem ein abtrünniges OpenAI-Modell beteiligt war.

Der Vorfall machte deutlich, dass KI-Systeme Probleme haben können, Angreifer von den Cybersicherheitsteams zu unterscheiden, die sich verteidigen.

Die neue Allianz hat zum Ziel, offene KI-Tools zu entwickeln und zu teilen.

Sie will außerdem Schwachstellen mithilfe offener Technologien angehen.

Die Initiative kommt zu einer Zeit, in der US-Gesetzgeber zunehmend Maßnahmen prüfen, um die wachsende Verbreitung chinesischer KI-Modelle einzuschränken.

Neue Allianz konzentriert sich auf Sicherheit offener KI-Modelle

NVDA erklärte, die neu gegründete Open Secure AI Alliance werde sich darauf konzentrieren, Sicherheitslücken zu beheben und diese durch den Einsatz offener Technologien öffentlich zu machen.

„Die Open Secure AI Alliance wird daran arbeiten, Schwachstellen mithilfe offener Technologien zu beheben und offenzulegen“, sagte Nvidia in einer Stellungnahme.

„Der jüngste Sicherheitsvorfall bei Hugging Face hat eine deutliche Erinnerung geliefert: Cyber-Verteidiger benötigen offene, agentenfähige Systeme an der Grenze der Technik zur Selbstverteidigung.“

Zur Allianz gehören Nvidia, Microsoft, SpaceX und Palantir sowie Dutzende weiterer Technologieunternehmen aus den USA und Europa.

Die Initiative konzentriert sich auf offene KI-Modelle, die von Nutzern heruntergeladen, modifiziert und selbst gehostet werden können.

Das unterscheidet sie von geschlossenen KI-Modellen, einschließlich Frontier-Systemen von Unternehmen wie Anthropic und OpenAI, die nur über spezifische Infrastrukturen zugänglich sind.

Der Vorstoß der Unternehmen für offene KI-Tools folgt einem kürzlichen Sicherheitsvorfall bei Hugging Face, einem KI-Startup, das Ziel eines Cyberangriffs war.

Das Unternehmen konnte die führenden US-Frontier-Modelle während des Vorfalls nicht zur eigenen Verteidigung nutzen.

Berichten zufolge unterschieden die Schutzmechanismen dieser Systeme nicht zwischen einem Angreifer und einem Verteidiger.

Infolgedessen griff Hugging Face auf ein selbst gehostetes chinesisches Open‑Weight‑KI‑Modell zurück, das nicht denselben Einschränkungen unterlag.

Der Vorfall hat die Debatte darüber befeuert, ob offene KI-Modelle eine wichtige Rolle in der Cybersicherheit spielen können.

Er hat auch Fragen zum Einfluss von Beschränkungen bei der Nutzung fortgeschrittener KI-Systeme aufgeworfen.

Bedenken wegen Beschränkungen chinesischer KI-Modelle

Die Gründung der Allianz erfolgt vor dem Hintergrund wachsender Forderungen nach Maßnahmen, die den Zugang zu von chinesischen Unternehmen entwickelten KI-Modellen einschränken könnten.

Die fortschrittlichsten chinesischen KI-Modelle sind Open‑Weight, was es erlaubt, sie herunterzuladen und auf eine Weise zu nutzen, die sich von geschlossenen KI-Systemen unterscheidet.

Chinesische KI-Unternehmen wurden zudem beschuldigt, Kampagnen zu nutzen, um Informationen aus Systemen von US-Konkurrenten zu extrahieren.

Dieser Prozess ist als „Distillation“ bekannt, bei dem ein KI-Modell Wissen aus einem besser trainierten Modell extrahiert.

Finanzminister Scott Bessent drohte letzte Woche mit Sanktionen gegen chinesische Unternehmen, die Distillation‑Angriffe gegen US‑Firmen durchführen.

Die Aussicht auf neue Beschränkungen hat die Unsicherheit über die Zukunft von Open‑Weight‑KI‑Modellen und deren Verfügbarkeit erhöht.

Branche warnt vor vorschnellen Beschränkungen

Chris McGuire, Senior Fellow für China und Emerging Technologies am Council on Foreign Relations, sagte, die US‑Regierung könnte potenziell Beschränkungen für chinesische KI‑Modelle einführen.

„Es besteht eine reale Möglichkeit, dass die US‑Regierung Beschränkungen für chinesische Modelle verhängt“, sagte McGuire gegenüber CNBC.

Gleichzeitig haben große Technologieunternehmen die politischen Entscheidungsträger aufgefordert, bei der Regulierung von Open‑Weight‑KI vorsichtig vorzugehen.

Letzte Woche veröffentlichten Nvidia, Microsoft, Meta, Palantir und mehr als 20 weitere Unternehmen einen Brief, in dem sie die Politikberater aufforderten, „vorschnelle Beschränkungen“ für Open‑Weight‑KI‑Modelle zu vermeiden.

Die Unternehmen argumentierten, dass solche Beschränkungen den Wettbewerb „ersticken oder Innovation ins Ausland treiben“ könnten.

Die Debatte spiegelt eine wachsende Spannung innerhalb der KI‑Branche wider.

Unternehmen und politische Entscheidungsträger versuchen, Sicherheitsrisiken im Zusammenhang mit fortgeschrittenen KI‑Systemen zu adressieren und gleichzeitig sicherzustellen, dass Entwickler und Cybersicherheitsteams Zugang zu leistungsfähigen Werkzeugen haben.

Für Nvidia und seine Partner steht die Open Secure AI Alliance für einen Vorstoß, die Rolle offener Technologien in der KI‑Sicherheit zu stärken.

Die Initiative kommt außerdem, während politische Entscheidungsträger abwägen, wie sie auf die rasche Verbreitung chinesischer KI‑Modelle und die breitere Entwicklung von Open‑Weight‑Künstlicher Intelligenz reagieren sollen.