Experten fordern Google auf, KI‑Videos für junge YouTube‑Nutzer zu verbieten

Google von Alphabet Inc. steht unter wachsendem Druck von Experten für kindliche Entwicklung, darauf zu verzichten, KI‑generierte Videos Kindern auf YouTube und YouTube Kids anzuzeigen oder zu empfehlen.

Am Mittwoch sandten mehr als 200 Experten, Organisationen und Bildungseinrichtungen einen Brief an Google-CEO Sundar Pichai und YouTube-CEO Neal Mohan und äußerten Bedenken hinsichtlich des pädagogischen Nutzens und der Qualität von KI‑Videos, die sich an junge Zuschauer richten.

„Wir wissen noch viel nicht über die Folgen von KI‑Inhalten für Kinder“, hieß es in dem Brief.

„YouTube beteiligt sich an diesem unkontrollierten Experiment, indem es KI‑generierte Inhalte vorantreibt, ohne Forschung, die deren Nutzen belegt, und ohne die Grundsätze der kindlichen Entwicklung zu berücksichtigen, die darauf hindeuten, dass es wahrscheinlich schädlich ist.“

Unterstützung von einflussreichen Persönlichkeiten und Organisationen

Unter den Unterzeichnenden waren der Sozialpsychologe Jonathan Haidt, Autor von The Anxious Generation, Kinderrechtsorganisationen wie Fairplay und die National Alliance to Advance Adolescent Health, die American Federation of Teachers sowie mehrere Schulen.

Sie forderten YouTube auf, jegliche Investitionen in die Erstellung von KI‑generierten Videos für Kinder einzustellen.

KI‑Inhalte boomen auf YouTube

KI‑generierte Videos haben an Beliebtheit zugenommen, insbesondere Inhalte für Kleinkinder und jüngere Kinder.

Ersteller nutzen häufig KI‑Tools, um Videos schneller und kostengünstiger zu produzieren; einige teilen sogar Anleitungen zur Monetarisierung solcher Inhalte für junge Zuschauer.

YouTube hat anerkannt, dass es notwendig ist, den „AI slop“ zu bewältigen und eine sichere Nutzererfahrung aufrechtzuerhalten.

Laut Experten verlangt das Unternehmen von Erstellern, synthetische oder veränderte Inhalte zu kennzeichnen, und behauptet, seine Systeme würden spamartige oder qualitativ minderwertige Produktionen bestrafen.

Die Interessenvertretungen argumentierten jedoch, dass solche Kennzeichnungen für Kinder, die noch nicht lesen können, kaum aussagekräftig seien, und diese Kinder einen erheblichen Teil der Zielgruppe für KI‑Inhalte ausmachen.

YouTube reagiert

YouTube hat seine Richtlinien verteidigt und erklärt, dass es hohe Standards für Inhalte auf YouTube Kids beibehalte und KI‑generierte Inhalte einschränke.

Die Plattform verlangt zudem von Nutzern, KI‑veränderte Videos zu kennzeichnen, und hat Maßnahmen gegen mit KI erstellte spamartige Inhalte ergriffen.

YouTube‑CEO Neal Mohan erklärte zuvor, die Kontrolle von KI‑Inhalten sei eine der obersten Prioritäten.

Zunehmende Prüfung sozialer Medien

Der Brief am Mittwoch erscheint vor dem Hintergrund breiterer Bemühungen, die Auswirkungen sozialer Medien auf Kinder zu reformieren.

Im März stellte ein wegweisender Geschworenenprozess zur Social-Media-Sucht Google und Meta Platforms Inc. für haftbar wegen der Schädigung einer jungen Nutzerin durch Produkte, die darauf ausgelegt waren, sie online zu binden.

Beide Unternehmen haben Berufung angekündigt, doch Kläger, Verbraucherschützer und Gesetzgeber drängen nun auf Änderungen einiger ihrer lukrativsten Funktionen, darunter Empfehlungsalgorithmen für Inhalte.

Kritiker verweisen zudem auf Googles jüngste Investition in Animaj, ein KI‑Animationsstudio, das Inhalte für Kinder produziert, als Grund zur Sorge.

Sie argumentieren, dass die Konfrontation von Kleinkindern mit KI‑generierten Videos über solche Kanäle die Risiken für Aufmerksamkeit, Lernen und soziale Entwicklung verschärfen könnte.