Eksperter oppfordrer Google til å forby AI-videoer rettet mot yngre YouTube-brukere

Alphabet Inc.'s Google står overfor økende press fra eksperter innen barneutvikling om å stoppe at AI-genererte videoer vises eller blir anbefalt til barn på YouTube og YouTube Kids.

Onsdag sendte over 200 eksperter, organisasjoner og utdanningsinstitusjoner et brev til Google-sjef Sundar Pichai og YouTube-sjef Neal Mohan, der de uttrykte bekymring for den pedagogiske verdien og kvaliteten på AI-videoer som retter seg mot unge seere.

«Det er mye vi ikke vet om konsekvensene av AI-innhold for barn,» heter det i brevet.

«YouTube deltar i dette ukontrollerte eksperimentet ved å presse AI-generert innhold uten forskning som demonstrerer fordeler, og uten å ta hensyn til prinsipper for barns utvikling, noe som tyder på at det sannsynligvis er skadelig.»

Støtte fra fremtredende personer og organisasjoner

Blant undertegnerne var sosialpsykolog Jonathan Haidt, forfatter av The Anxious Generation, barneforkjempergrupper som Fairplay og National Alliance to Advance Adolescent Health, American Federation of Teachers og flere skoler.

De oppfordret YouTube til å stanse all investering i produksjon av AI-genererte videoer for barn.

AI-innholdet boomer på YouTube

AI-genererte videoer har økt kraftig i popularitet, spesielt blant innhold rettet mot småbarn og yngre barn.

Skapere bruker ofte AI-verktøy for å produsere videoer raskere og mer kostnadseffektivt, og noen deler til og med veiledninger om hvordan man kan tjene penger på slikt innhold for unge seere.

YouTube har erkjent behovet for å håndtere «AI-slurv» og opprettholde en trygg brukeropplevelse.

Ifølge ekspertene krever selskapet at skapere merker syntetisk eller endret innhold og hevder at systemene deres straffer spamaktig eller lavkvalitetsproduksjon.

Forkjempergruppene hevdet imidlertid at slike merkelapper sannsynligvis ikke betyr noe for barn som ennå ikke kan lese, som utgjør en betydelig del av målgruppen for AI-innhold.

YouTube svarer

YouTube har forsvart sine retningslinjer og sier at de opprettholder høye standarder for innhold på YouTube Kids og begrenser AI-generert innhold.

Plattformen krever også at brukere merker AI-modifiserte videoer og har tatt grep mot spamaktig innhold skapt ved hjelp av AI.

YouTube-sjef Neal Mohan uttalte tidligere at håndtering av AI-innhold er en toppprioritet.

Økende granskning av sosiale medier

Onsdagens brev kommer midt i bredere innsats for å reformere sosiale mediers påvirkning på barn.

I mars fantes en banebrytende juryrettssak om avhengighet til sosiale medier som konkluderte med at Google og Meta Platforms Inc. var ansvarlige for å ha skadet en ung bruker med produkter utformet for å holde henne engasjert på nettet.

Begge selskapene har kunngjort planer om å anke, men saksøkerne, forbrukerforkjempere og lovgivere presser nå på for endringer i noen av deres mest innbringende funksjoner, inkludert anbefalingsalgoritmer for innhold.

Kritikere peker også på Googles nylige investering i Animaj, et AI-animasjonsstudio som produserer innhold for barn, som en bekymringskilde.

De mener at eksponering av småbarn for AI-genererte videoer gjennom slike kanaler kan forsterke risikoen for svekket oppmerksomhet, læring og sosial utvikling.