Experter uppmanade Google att förbjuda AI‑videor riktade till unga YouTube‑användare

Alphabet Inc:s Google utsätts för ökande press från experter inom barnutveckling att stoppa att AI-genererade videor visas eller rekommenderas för barn på YouTube och YouTube Kids.

På onsdagen skickade över 200 experter, organisationer och utbildningsinstitutioner ett brev till Googles VD Sundar Pichai och YouTubes VD Neal Mohan, där de uttryckte oro över det pedagogiska värdet och kvaliteten hos AI-videor som riktar sig till unga tittare.

“Det finns mycket vi inte vet om konsekvenserna av AI-innehåll för barn,” stod det i brevet.

“YouTube deltar i detta okontrollerade experiment genom att driva fram AI-genererat innehåll utan forskning som visar dess fördelar och utan att beakta principer för barnutveckling, vilket tyder på att det sannolikt är skadligt.”

Stöd från framstående personer och organisationer

Bland undertecknarna fanns socialpsykologen Jonathan Haidt, författare till The Anxious Generation, barnrättsgrupper som Fairplay och National Alliance to Advance Adolescent Health, American Federation of Teachers och flera skolor.

De uppmanade YouTube att avbryta alla investeringar i skapandet av AI-genererade videor för barn.

AI-innehåll ökar kraftigt på YouTube

AI-genererade videor har skjutit i popularitet, särskilt innehåll riktat till småbarn och yngre barn.

Innehållsskapare förlitar sig ofta på AI-verktyg för att producera videor snabbare och mer kostnadseffektivt, och vissa delar till och med handledningar om hur man tjänar pengar på sådant innehåll för unga tittare.

YouTube har erkänt behovet av att hantera "AI slop" och upprätthålla en säker användarupplevelse.

Enligt experterna kräver företaget att skapare märker syntetiskt eller ändrat innehåll och hävdar att dess system bestraffar spamaktigt eller lågkvalitativt innehåll.

Advokatgrupperna hävdade dock att sådana märkningar sannolikt inte är meningsfulla för barn som ännu inte lärt sig läsa, vilka utgör en betydande del av målgruppen för AI-innehåll.

YouTube bemöter

YouTube har försvarat sina policyer och uppgett att de upprätthåller höga standarder för innehåll på YouTube Kids och begränsar AI-genererat innehåll.

Plattformen kräver också att användare märker AI-modifierade videor och har vidtagit åtgärder mot spamaktigt innehåll skapat med AI.

YouTubes vd Neal Mohan har tidigare sagt att hantering av AI-innehåll är en högprioritet.

Ökad granskning av sociala medier

Brevets publicering kommer i samband med bredare ansträngningar att reformera sociala plattformars påverkan på barn.

I mars fann en banbrytande jury i en rättegång om sociala mediers beroende att Google och Meta Platforms Inc. var ansvariga för att ha skadat en ung användare med produkter utformade för att hålla henne engagerad online.

Båda företagen har meddelat att de avser att överklaga, men käranden, konsumentförespråkare och lagstiftare pressar nu på för förändringar av några av deras mest lönsamma funktioner, inklusive rekommendationsalgoritmer för innehåll.

Kritiker pekar också på Googles senaste investering i Animaj, en AI-animationsstudio som producerar innehåll för barn, som en källa till oro.

De menar att exponering av småbarn för AI-genererade videor via sådana kanaler kan förvärra risker för uppmärksamhet, lärande och social utveckling.