Esperti chiedono a Google di vietare i video IA rivolti ai giovani utenti di YouTube

Google di Alphabet Inc. è sotto crescenti pressioni da parte di esperti dello sviluppo infantile affinché impedisca che video generati dall'IA vengano mostrati o consigliati ai bambini su YouTube e YouTube Kids.

Mercoledì oltre 200 esperti, organizzazioni e istituzioni educative hanno inviato una lettera al CEO di Google, Sundar Pichai, e al CEO di YouTube, Neal Mohan, esprimendo preoccupazioni sul valore educativo e sulla qualità dei video generati dall'IA rivolti ai giovani spettatori.

«Ci sono molte cose che non sappiamo sulle conseguenze dei contenuti generati dall'IA per i bambini», afferma la lettera.

«YouTube sta partecipando a questo esperimento fuori controllo spingendo contenuti generati dall'IA senza ricerche che ne dimostrino i benefici e senza riconoscere i principi dello sviluppo infantile, che suggeriscono che probabilmente sono dannosi».

Sostegno di figure e organizzazioni di rilievo

Tra i firmatari figurano lo psicologo sociale Jonathan Haidt, autore di The Anxious Generation, gruppi per la tutela dei minori come Fairplay e la National Alliance to Advance Adolescent Health, la American Federation of Teachers e diverse scuole.

Hanno esortato YouTube a interrompere tutti gli investimenti nella creazione di video generati dall'IA per bambini.

I contenuti generati dall'IA in aumento su YouTube

I video generati dall'IA hanno visto un'impennata di popolarità, in particolare tra i contenuti destinati a bambini in età prescolare e ai più piccoli.

I creatori spesso si affidano a strumenti di IA per produrre video più rapidamente e a costi inferiori, e alcuni condividono persino tutorial su come monetizzare tali contenuti per i giovani spettatori.

YouTube ha riconosciuto la necessità di gestire i «contenuti scadenti generati dall'IA» e di mantenere un'esperienza utente sicura.

Secondo gli esperti, la società richiede ai creatori di etichettare contenuti sintetici o alterati e afferma che i suoi sistemi penalizzano produzioni spam o di bassa qualità.

I gruppi di difesa, tuttavia, sostengono che tali etichette difficilmente siano significative per i bambini pre-alfabetizzati, che costituiscono una parte significativa del pubblico target dei contenuti IA.

YouTube risponde

YouTube ha difeso le proprie politiche, affermando di mantenere standard elevati per i contenuti su YouTube Kids e di limitare i contenuti generati dall'IA.

La piattaforma richiede inoltre agli utenti di etichettare i video modificati dall'IA e ha adottato misure contro contenuti spam creati con l'IA.

Il CEO di YouTube, Neal Mohan, ha dichiarato in precedenza che la gestione dei contenuti IA è una priorità assoluta.

Scrutinio crescente sui social media

La lettera di mercoledì arriva nel contesto di sforzi più ampi per riformare l'impatto delle piattaforme social sui bambini.

A marzo, un processo con giuria di portata storica sulla dipendenza dai social media ha ritenuto Google e Meta Platforms Inc. responsabili per aver danneggiato una giovane utente con prodotti progettati per mantenerla impegnata online.

Entrambe le società hanno annunciato l'intenzione di appellarsi, ma i querelanti, i difensori dei consumatori e i legislatori stanno ora spingendo per modifiche ad alcune delle loro funzionalità più redditizie, compresi gli algoritmi di raccomandazione dei contenuti.

I critici indicano inoltre come motivo di preoccupazione il recente investimento di Google in Animaj, uno studio di animazione basato sull'IA che produce contenuti per bambini.

Sostengono che l'esposizione dei bambini in età prescolare a video generati dall'IA attraverso tali canali possa aggravare i rischi per l'attenzione, l'apprendimento e lo sviluppo sociale.