Im Rechtsstreit von OpenAI: Was steht im Kampf um ChatGPT-Konversationen auf dem Spiel?

OpenAI befindet sich in einem offenen Rechtsstreit mit der New York Times über den Zugang zu 20 Millionen ChatGPT-Nutzergesprächen, wobei ein Bundesrichter diese Woche bereits gegen das KI-Unternehmen entschieden hat.

Die Times forderte im Rahmen ihrer Klage wegen Urheberrechtsverletzung zunächst Zugang zu 120 Millionen Gesprächen, die später auf eine zufällig ausgewählte Anzahl von 20 Millionen Protokollen reduziert wurde, die offenlegen könnten, wie ChatGPT aus Nachrichtenartikeln gelernt hat.

Der Chief Information Security Officer von OpenAI veröffentlichte am Mittwoch eine vernichtende öffentliche Erklärung, in der er die Times beschuldigte, "in die Privatsphäre der Nutzer einzudringen", aber das Unternehmen erwähnte nicht, dass es den zugrunde liegenden Gerichtsstreit bereits am 7. November verloren hatte.

Was als Urheberrechtsstreit begann, hat sich zu einem Wendepunkt entwickelt, der definiert, was Data-Tech-Unternehmen abgeben müssen, wenn Rechtsstreitigkeiten mit Datenschutzverpflichtungen kollidieren, und ob Nutzer KI-Unternehmen vertrauen können, dass sie ihre Gespräche löschen.

Der Urheberrechtsfall, der sich zu einer Datenschutzkrise entwickelte

Die Times verklagte OpenAI und Microsoft im Dezember 2023 und behauptete, die Unternehmen hätten illegal Millionen von Nachrichtenartikeln gescrapt, um ChatGPT ohne Erlaubnis oder Entschädigung zu trainieren.

Die Zeitung fordert Schadenersatz in Milliardenhöhe sowie die Zerstörung aller GPT-Modelle, die auf ihre urheberrechtlich geschützten Inhalte trainiert wurden, was eine existenzielle Bedrohung für das Flaggschiffprodukt von OpenAI darstellt.

Um ihre Argumente zu untermauern, argumentierte die Times, dass sie Zugang zu tatsächlichen ChatGPT-Gesprächen benötigte, um zu zeigen, wie häufig das Modell Nachrichteninhalte, Halluzinationen und Passagen reproduziert, die direkt der Berichterstattung der Times zugeschrieben werden.

Hier explodieren die rechtlichen Einsätze. Magistratsrichterin Ona Wang entschied am 7. November, dass OpenAI nicht ausreichend erklärt habe, warum die Privatsphäre der Nutzer nicht bereits durch Schutzanordnungen und De-Identifizierungsprotokolle geschützt sei, die für Anwälte erforderlich seien, die die Daten überprüfen.

OpenAI schoss zurück und behauptete, es sei "nicht bekannt, dass ein Gericht die großflächige Herausgabe personenbezogener Daten in diesem Umfang anordnet".

Der KI-Riese warnte, dass der Präzedenzfall es jedem, der ein KI-Unternehmen verklagt, ermöglichen würde, Dutzende Millionen von Gesprächen zu verlangen, ohne die Anforderungen an die Relevanz einzuschränken.

Der Richter wies die Bedenken von OpenAI zurück und verwies auf einen ähnlichen Fall, in dem Anthropic gezwungen wurde, 5 Millionen Chatbot-Konversationen für eine Klage eines Musikverlags zu produzieren.

Dies schafft einen Präzedenzfall, der laut OpenAI grundlegend anders ist, da die Times vollständige Benutzergespräche verlangt, nicht nur isolierte Eingabeaufforderungs-Ausgabe-Paare.

Warum dieser Fall die Privatsphäre für KI-Nutzer überall neu definiert

Jenseits des Gerichtssaal-Theaters zwingt dieser Kampf zu einer Abrechnung mit grundlegenden Fragen zum Datenschutz von KI, denen Regulierungsbehörden und Unternehmen jahrelang ausgewichen sind.

Sam Altman, CEO von OpenAI, drängt nun auf ein "KI-Privileg", einen rechtlichen Schutz, der Gespräche mit KI-Systemen wie die Kommunikation zwischen Anwalt und Mandant behandelt, die vor Entdeckung geschützt sind.

Dieses Framing erkennt die unbequeme Realität an: Millionen von ChatGPT-Nutzern diskutieren sensible Themen, medizinische Symptome, finanzielle Ängste und persönliche Kämpfe mit einer KI, die auf riesigen Internetdaten trainiert wurde und nun in unabhängigen Gerichtsverfahren auf unbestimmte Zeit aufbewahrt werden muss.

Sicherheitsexperten und Rechtsanalysten warnen davor, dass der Präzedenzfall zu Offenlegungsversuchen Dritter in völlig separaten Rechtsstreitigkeiten einladen könnte, bei denen die Prozessparteien Zugang zu den aufbewahrten KI-Gesprächsprotokollen eines Angreifers suchen.

Stellen Sie sich eine feindselige Aussage vor, bei der ein gegnerischer Anwalt Ihre ChatGPT-Protokolle verlangt, um zu beweisen, dass Sie eine Geschäftsstrategie oder einen Wettbewerbsvorteil besprochen haben.

Das Gericht ordnete an, dass OpenAI alle markierten Konversationen aufbewahren muss, und gab der Times die Befugnis, ihre Liste der gemeldeten Benutzer zu erweitern, während sie die aufbewahrten Aufzeichnungen überprüft, was bedeutet, dass die Times selbst entscheidet, welche Konversationen auf unbestimmte Zeit aufbewahrt werden.

OpenAI sicherte sich eine begrenzte Entlastung. Ab dem 26. September 2025 muss das Unternehmen nicht mehr alle neuen Chat-Protokolle aufbewahren, sondern nur noch bereits gespeicherte Daten und Konversationen, die von der Times gekennzeichnet wurden.

Aber der Schaden für das Vertrauen ist bereits angerichtet. Die standardmäßige 30-Tage-Löschrichtlinie von OpenAI, ein zentrales Datenschutzversprechen, hat jetzt eine massive Ausnahme, die durch Rechtsstreitigkeiten entstanden ist, denen die Nutzer nie zugestimmt haben und von denen sie nichts wissen.