Especialistas pedem que o Google proíba vídeos com IA dirigidos a crianças no YouTube

O Google, da Alphabet Inc., enfrenta crescente pressão de especialistas em desenvolvimento infantil para impedir que vídeos gerados por IA sejam exibidos ou recomendados a crianças no YouTube e no YouTube Kids.

Na quarta-feira, mais de 200 especialistas, organizações e instituições educacionais enviaram uma carta ao CEO do Google, Sundar Pichai, e ao CEO do YouTube, Neal Mohan, expressando preocupação com o valor educativo e a qualidade dos vídeos gerados por IA direcionados ao público jovem.

“Há muito que não sabemos sobre as consequências do conteúdo gerado por IA para as crianças”, afirmou a carta.

“O YouTube está participando desse experimento descontrolado ao impulsionar conteúdo gerado por IA sem pesquisas que demonstrem seus benefícios e sem reconhecer princípios do desenvolvimento infantil, que sugerem que isso provavelmente é prejudicial”.

Apoio de figuras e organizações proeminentes

Entre os signatários estavam o psicólogo social Jonathan Haidt, autor de A Geração Ansiosa, grupos de defesa da criança como Fairplay e a National Alliance to Advance Adolescent Health, a American Federation of Teachers e várias escolas.

Eles instaram o YouTube a suspender todo investimento na criação de vídeos gerados por IA para crianças.

Explosão de conteúdo gerado por IA no YouTube

Vídeos gerados por IA dispararam em popularidade, especialmente entre conteúdos voltados a crianças pequenas e em idade pré-escolar.

Criadores frequentemente dependem de ferramentas de IA para produzir vídeos mais rapidamente e com menor custo, com alguns até compartilhando tutoriais sobre como monetizar esse tipo de conteúdo para o público jovem.

O YouTube reconheceu a necessidade de gerenciar o 'conteúdo de baixa qualidade gerado por IA' e de manter uma experiência segura para os usuários.

Segundo especialistas, a empresa exige que os criadores rotulem conteúdos sintéticos ou alterados e afirma que seus sistemas penalizam produções spam ou de baixa qualidade.

Os grupos de defesa, no entanto, argumentaram que tais rótulos dificilmente serão significativos para crianças pré-alfabetizadas, que representam uma parcela significativa do público-alvo do conteúdo gerado por IA.

YouTube responde

O YouTube defendeu suas políticas, afirmando que mantém padrões elevados para o conteúdo no YouTube Kids e limita o conteúdo gerado por IA.

A plataforma também exige que os usuários rotulem vídeos modificados por IA e tomou medidas contra conteúdo spam criado com IA.

O CEO do YouTube, Neal Mohan, declarou anteriormente que gerir o conteúdo de IA é prioridade máxima.

Maior escrutínio às redes sociais

A carta de quarta-feira chega em meio a esforços mais amplos para reformar o impacto das redes sociais sobre as crianças.

Em março, um julgamento histórico por júri sobre dependência de redes sociais considerou o Google e a Meta Platforms Inc. responsáveis por prejudicar uma jovem usuária com produtos projetados para mantê-la engajada online.

Ambas as empresas anunciaram planos de apelação, mas os autores do processo, defensores do consumidor e legisladores agora pressionam por mudanças em alguns de seus recursos mais lucrativos, incluindo os algoritmos de recomendação de conteúdo.

Críticos também apontam o recente investimento do Google na Animaj, um estúdio de animação por IA que produz conteúdo para crianças, como motivo de preocupação.

Eles afirmam que expor crianças pequenas a vídeos gerados por IA por meio desses canais pode agravar riscos à atenção, à aprendizagem e ao desenvolvimento social.