Experts vragen Google AI-video's voor jonge YouTube‑gebruikers te verbieden

Alphabet Inc.'s Google krijgt toenemende druk van experts op het gebied van kinderontwikkeling om te voorkomen dat AI-gegenereerde video's aan kinderen op YouTube en YouTube Kids worden getoond of aanbevolen.

Op woensdag stuurden meer dan 200 deskundigen, organisaties en onderwijsinstellingen een brief aan Google‑CEO Sundar Pichai en YouTube‑CEO Neal Mohan, waarin ze hun zorgen uitten over de educatieve waarde en kwaliteit van AI-video's die zich richten op jonge kijkers.

"Er is veel dat we niet weten over de gevolgen van AI-content voor kinderen," aldus de brief.

"YouTube neemt deel aan dit onbeheerde experiment door AI-gegenereerde content te promoten zonder onderzoek dat de voordelen aantoont en zonder rekening te houden met de principes van kinderontwikkeling, die erop wijzen dat het waarschijnlijk schadelijk is."

Steun van vooraanstaande personen en organisaties

Onder de ondertekenaars bevonden zich sociaal psycholoog Jonathan Haidt, auteur van The Anxious Generation, belangenbehartigingsgroepen voor kinderen zoals Fairplay en de National Alliance to Advance Adolescent Health, de American Federation of Teachers en meerdere scholen.

Zij riepen YouTube op alle investeringen in de productie van AI-gegenereerde video's voor kinderen stop te zetten.

AI-content boomt op YouTube

AI-gegenereerde video's zijn sterk in populariteit toegenomen, met name content gericht op peuters en jonge kinderen.

Makers vertrouwen vaak op AI-tools om video's sneller en kostenefficiënter te produceren, waarbij sommigen zelfs tutorials delen over het monetiseren van dergelijke content voor jonge kijkers.

YouTube heeft erkend dat het "AI-rommel" moet beheersen en een veilige gebruikerservaring moet behouden.

Volgens experts verplicht het bedrijf makers synthetische of bewerkte content te labelen en stelt het dat zijn systemen spamachtige of van lage kwaliteit zijnde producties bestraffen.

De belangenorganisaties betoogden echter dat zulke labels waarschijnlijk weinig betekenen voor nog niet-geletterde kinderen, die een aanzienlijk deel uitmaken van de doelgroep voor AI-content.

YouTube reageert

YouTube heeft zijn beleid verdedigd en verklaard dat het hoge standaarden hanteert voor content op YouTube Kids en AI-gegenereerde content beperkt.

Het platform vereist ook dat gebruikers AI-bewerkte video's labelen en heeft stappen ondernomen tegen spamachtige content die met AI is gemaakt.

YouTube‑CEO Neal Mohan verklaarde eerder dat het beheer van AI-content een topprioriteit is.

Toegenomen toetsing van sociale media

De brief van woensdag komt te midden van bredere pogingen om de impact van sociale mediaplatforms op kinderen te hervormen.

In maart wees een baanbrekend juryproces over verslaving aan sociale media Google en Meta Platforms Inc. aansprakelijk voor het toebrengen van schade aan een jonge gebruiker met producten die erop waren ontworpen haar online betrokken te houden.

Beide bedrijven hebben aangekondigd in beroep te gaan, maar eisers, consumentenorganisaties en wetgevers dringen nu aan op wijzigingen in enkele van hun meest lucratieve functies, waaronder aanbevelingsalgoritmen voor content.

Critici wijzen ook op Googles recente investering in Animaj, een AI-animatiestudio die content voor kinderen produceert, als een punt van zorg.

Zij stellen dat het blootstellen van peuters aan AI-gegenereerde video's via dergelijke kanalen de risico's voor aandacht, leren en sociale ontwikkeling kan verergeren.