Odborníci vyzvali Google, aby zakázal AI videa určená malým uživatelům YouTube

Google společnosti Alphabet Inc. čelí rostoucímu tlaku odborníků na vývoj dětí, aby zabránil zobrazování nebo doporučování AI‑generovaných videí dětem na YouTube a YouTube Kids.

Ve středu více než 200 odborníků, organizací a vzdělávacích institucí zaslalo dopis generálnímu řediteli Googlu Sundaru Pichaiovi a generálnímu řediteli YouTube Nealovi Mohanovi, v němž vyjadřují obavy ohledně vzdělávací hodnoty a kvality AI videí zaměřených na mladé diváky.

„O důsledcích obsahu vytvořeného AI pro děti toho mnoho nevíme,“ uvádí dopis.

„YouTube se účastní tohoto nekontrolovaného experimentu tím, že prosazuje AI‑generovaný obsah bez výzkumu dokazujícího jeho přínosy a bez zohlednění zásad vývoje dítěte, které naznačují, že je pravděpodobně škodlivý.“

Podpora od významných osobností a organizací

Mezi signatáři byli sociální psycholog Jonathan Haidt, autor knihy The Anxious Generation, dětské advokační skupiny jako Fairplay a National Alliance to Advance Adolescent Health, American Federation of Teachers a několik škol.

Vyzvali YouTube, aby zastavil veškeré investice do tvorby AI‑generovaných videí pro děti.

Rozmach AI obsahu na YouTube

AI‑generovaná videa se stala výrazně populárnější, zejména u obsahu určeného batolatům a malým dětem.

Tvůrci často spoléhají na nástroje AI, aby videa vytvářeli rychleji a nákladově efektivněji, přičemž někteří dokonce sdílejí návody, jak takový obsah pro mladé diváky monetizovat.

YouTube přiznalo potřebu řešit „AI slop“ a udržet bezpečnou uživatelskou zkušenost.

Podle odborníků společnost vyžaduje, aby tvůrci označovali syntetický nebo upravený obsah, a tvrdí, že její systémy penalizují spamový nebo nekvalitní obsah.

Advokační skupiny však namítly, že taková označení pravděpodobně nebudou pro předčtenářské děti smysluplná, které tvoří významnou část cílového publika AI obsahu.

YouTube reaguje

YouTube obhajuje své zásady a uvádí, že udržuje vysoké standardy pro obsah na YouTube Kids a omezuje AI‑generovaný obsah.

Platforma také vyžaduje, aby uživatelé označovali AI‑upravená videa, a podnikla kroky proti spamovému obsahu vytvořenému pomocí AI.

Generální ředitel YouTube Neal Mohan dříve uvedl, že řízení obsahu vytvářeného AI je nejvyšší prioritou.

Rostoucí dohled nad sociálními médii

Středeční dopis přichází uprostřed širší snahy o reformu dopadu platforem sociálních médií na děti.

V březnu průlomové soudní řízení před porotou týkající se závislosti na sociálních médiích shledalo Google a Meta Platforms Inc. odpovědnými za poškození mladé uživatelky produkty navrženými tak, aby ji udržely zapojenou online.

Obě společnosti oznámily plány odvolat se, ale žalobci, spotřebitelské organizace a zákonodárci nyní tlačí na změny některých jejich nejvýnosnějších funkcí, včetně algoritmů doporučujících obsah.

Kritici také poukazují na nedávnou investici Googlu do Animaj, AI animačního studia vyrábějícího obsah pro děti, jako na zdroj obav.

Tvrdí, že vystavování batolat AI‑generovaným videím prostřednictvím takových kanálů může zvýšit rizika pro pozornost, učení a sociální rozvoj.