Des experts exhortent Google à interdire les vidéos IA destinées aux jeunes sur YouTube

Google, filiale d'Alphabet Inc., est soumis à une pression croissante de la part d'experts en développement de l'enfant pour empêcher que des vidéos générées par l'IA soient diffusées ou recommandées aux enfants sur YouTube et YouTube Kids.

Mercredi, plus de 200 experts, organisations et établissements éducatifs ont envoyé une lettre au PDG de Google, Sundar Pichai, et au PDG de YouTube, Neal Mohan, exprimant des inquiétudes quant à la valeur éducative et à la qualité des vidéos générées par l'IA ciblant les jeunes spectateurs.

« Beaucoup de choses restent inconnues concernant les conséquences du contenu généré par l'IA pour les enfants », indiquait la lettre.

« YouTube participe à cette expérience incontrôlée en promouvant du contenu généré par l'IA sans recherches démontrant ses bénéfices et sans tenir compte des principes du développement de l'enfant, ce qui suggère qu'il est probablement nocif ».

Soutien de personnalités et d'organisations éminentes

Parmi les signataires figuraient le psychologue social Jonathan Haidt, auteur de The Anxious Generation, des groupes de défense des enfants tels que Fairplay et la National Alliance to Advance Adolescent Health, l'American Federation of Teachers, ainsi que plusieurs établissements scolaires.

Ils ont demandé à YouTube d'interrompre tout investissement dans la création de vidéos générées par l'IA destinées aux enfants.

Essor du contenu généré par l'IA sur YouTube

Les vidéos générées par l'IA ont gagné en popularité, notamment parmi les contenus destinés aux tout-petits et aux jeunes enfants.

Les créateurs s'appuient souvent sur des outils d'IA pour produire des vidéos plus rapidement et à moindre coût, certains partageant même des tutoriels sur la monétisation de ce type de contenu destiné aux jeunes spectateurs.

YouTube a reconnu la nécessité de gérer le « contenu IA bâclé » et de préserver une expérience utilisateur sûre.

Selon les experts, la société exige que les créateurs étiquettent le contenu synthétique ou modifié et affirme que ses systèmes pénalisent les contenus de type spam ou de faible qualité.

Les groupes de défense ont toutefois soutenu que de telles étiquettes sont peu susceptibles d'être significatives pour les enfants qui ne savent pas encore lire, qui constituent une part importante du public visé par le contenu IA.

Réponse de YouTube

YouTube a défendu ses politiques, affirmant maintenir des normes élevées pour le contenu sur YouTube Kids et limiter le contenu généré par l'IA.

La plateforme exige également que les utilisateurs étiquettent les vidéos modifiées par l'IA et a pris des mesures contre les contenus de type spam créés à l'aide de l'IA.

Le PDG de YouTube, Neal Mohan, a précédemment déclaré que la gestion du contenu IA était une priorité majeure.

Examen accru des réseaux sociaux

La lettre de mercredi intervient dans un contexte d'efforts plus larges visant à réformer l'impact des plateformes de médias sociaux sur les enfants.

En mars, un procès historique par jury sur l'addiction aux réseaux sociaux a jugé Google et Meta Platforms Inc. responsables d'avoir nui à une jeune utilisatrice avec des produits conçus pour la maintenir engagée en ligne.

Les deux sociétés ont annoncé leur intention de faire appel, mais les plaignants, les défenseurs des consommateurs et les législateurs poussent désormais à modifier certaines de leurs fonctionnalités les plus lucratives, notamment les algorithmes de recommandation de contenu.

Les critiques soulignent également l'investissement récent de Google dans Animaj, un studio d'animation IA produisant du contenu pour enfants, comme source d'inquiétude.

Ils estiment qu'exposer les tout-petits à des vidéos générées par l'IA via de tels canaux pourrait aggraver les risques portant sur l'attention, l'apprentissage et le développement social.