Expertos instaron a Google a prohibir vídeos de IA dirigidos a niños en YouTube

Google, de Alphabet Inc., afronta una creciente presión por parte de expertos en desarrollo infantil para que deje de mostrar o recomendar vídeos generados por IA a niños en YouTube y YouTube Kids.

El miércoles, más de 200 expertos, organizaciones e instituciones educativas enviaron una carta al CEO de Google, Sundar Pichai, y al CEO de YouTube, Neal Mohan, expresando su preocupación por el valor educativo y la calidad de los vídeos generados por IA dirigidos a espectadores jóvenes.

«Hay mucho que no sabemos sobre las consecuencias del contenido generado por IA para los niños», decía la carta.

«YouTube está participando en este experimento descontrolado al impulsar contenido generado por IA sin investigaciones que demuestren sus beneficios y sin tener en cuenta los principios del desarrollo infantil, que sugieren que probablemente sea perjudicial».

Apoyo de figuras y organizaciones destacadas

Entre los firmantes figuraban el psicólogo social Jonathan Haidt, autor de La generación ansiosa, grupos de defensa de la infancia como Fairplay y la National Alliance to Advance Adolescent Health, la American Federation of Teachers y varios centros escolares.

Pidieron a YouTube que detuviera toda inversión en la creación de vídeos generados por IA para niños.

Auge del contenido de IA en YouTube

Los vídeos generados por IA han aumentado en popularidad, especialmente los contenidos diseñados para niños en edad preescolar y pequeños.

Los creadores a menudo recurren a herramientas de IA para producir vídeos más rápida y económicamente, y algunos incluso comparten tutoriales sobre cómo monetizar ese tipo de contenido dirigido a espectadores jóvenes.

YouTube ha reconocido la necesidad de gestionar el «contenido mediocre generado por IA» y mantener una experiencia de usuario segura.

Según los expertos, la compañía exige que los creadores etiqueten el contenido sintético o alterado y afirma que sus sistemas penalizan las producciones spam o de baja calidad.

Los grupos de defensa, sin embargo, argumentaron que tales etiquetas probablemente no tendrán significado para los niños prelectores, que constituyen una parte significativa del público objetivo del contenido generado por IA.

YouTube responde

YouTube ha defendido sus políticas, asegurando que mantiene altos estándares para el contenido en YouTube Kids y limita el contenido generado por IA.

La plataforma también exige a los usuarios que etiqueten los vídeos modificados por IA y ha tomado medidas contra el contenido spam creado con IA.

El CEO de YouTube, Neal Mohan, declaró previamente que gestionar el contenido de IA es una prioridad máxima.

Crece el escrutinio sobre las redes sociales

La carta del miércoles llega en medio de esfuerzos más amplios para reformar el impacto de las plataformas de redes sociales en los niños.

En marzo, un juicio histórico por jurado sobre la adicción a las redes sociales declaró a Google y Meta Platforms Inc. responsables de haber perjudicado a una joven usuaria con productos diseñados para mantenerla enganchada en línea.

Ambas compañías han anunciado planes de apelar, pero los demandantes, defensores del consumidor y legisladores presionan ahora para cambiar algunas de sus funciones más lucrativas, incluidos los algoritmos de recomendación de contenido.

Los críticos también señalan la reciente inversión de Google en Animaj, un estudio de animación por IA que produce contenido para niños, como motivo de preocupación.

Sostienen que exponer a niños en edad preescolar a vídeos generados por IA a través de esos canales puede agravar los riesgos para la atención, el aprendizaje y el desarrollo social.