Eksperter opfordrer Google til at forbyde AI-videoer rettet mod unge YouTube-brugere

Alphabet Inc.’s Google står over for voksende pres fra børneudviklingseksperter om at stoppe AI-genererede videoer fra at blive vist eller anbefalet til børn på YouTube og YouTube Kids.

Onsdag sendte over 200 eksperter, organisationer og uddannelsesinstitutioner et brev til Google-chef Sundar Pichai og YouTube-chef Neal Mohan, hvor de udtrykte bekymring over den pædagogiske værdi og kvaliteten af AI-videoer rettet mod unge seere.

”Der er meget, vi ikke ved om konsekvenserne af AI-indhold for børn,” hed der i brevet.

”YouTube deltager i dette ukontrollerede eksperiment ved at skubbe AI-genereret indhold ud uden forskning, der dokumenterer fordele, og uden at tage hensyn til principper for børneudvikling, som antyder, at det sandsynligvis er skadeligt.”

Support fra fremtrædende personer og organisationer

Under underskriverne var socialpsykologen Jonathan Haidt, forfatter til The Anxious Generation, børneforkæmpergrupper som Fairplay og National Alliance to Advance Adolescent Health, American Federation of Teachers og flere skoler.

De opfordrede YouTube til at standse alle investeringer i skabelsen af AI-genererede videoer til børn.

AI-indhold boomer på YouTube

AI-genererede videoer er steget markant i popularitet, særligt blandt indhold designet til småbørn og yngre børn.

Skabere bruger ofte AI-værktøjer til at producere videoer hurtigere og mere omkostningseffektivt, og nogle deler endda vejledninger i, hvordan man monetariserer sådant indhold for unge seere.

YouTube har anerkendt behovet for at håndtere ”AI slop” og opretholde en sikker brugeroplevelse.

Ifølge eksperter kræver virksomheden, at skabere mærker syntetisk eller ændret indhold og hævder, at dets systemer straffer spam eller lavkvalitetsproduktioner.

Advokatgrupperne argumenterede dog for, at sådanne mærkninger sandsynligvis ikke vil give mening for børn, der endnu ikke kan læse, og som udgør en betydelig del af målgruppen for AI-indhold.

YouTube svarer

YouTube har forsvaret sine politikker og oplyst, at det opretholder høje standarder for indhold på YouTube Kids og begrænser AI-genereret indhold.

Platformen kræver også, at brugere mærker AI-ændrede videoer og har taget skridt mod spamagtigt indhold skabt med AI.

YouTubes CEO Neal Mohan har tidligere sagt, at håndtering af AI-indhold er en topprioritet.

Øget granskning af sociale medier

Onsdagens brev kommer i kølvandet på bredere bestræbelser på at reformere sociale medieplatformes indvirkning på børn.

I marts viste en skelsættende juryretssag om afhængighed af sociale medier, at Google og Meta Platforms Inc. blev holdt ansvarlige for at skade en ung bruger med produkter designet til at fastholde hende online.

Begge virksomheder har annonceret planer om at anke, men sagsøgere, forbrugerforkæmpere og lovgivere presser nu på for ændringer af nogle af deres mest indbringende funktioner, herunder anbefalingsalgoritmer for indhold.

Kritikere peger også på Googles nylige investering i Animaj, et AI-animationsstudie, der producerer indhold til børn, som en kilde til bekymring.

De hævder, at eksponering af småbørn for AI-genererede videoer gennem sådanne kanaler kan forværre risiciene for opmærksomhed, læring og social udvikling.