Experți cer Google să interzică videoclipurile AI care vizează utilizatorii tineri de pe YouTube

Google, parte a Alphabet Inc., se confruntă cu o presiune tot mai mare din partea experților în dezvoltarea copiilor pentru a opri difuzarea sau recomandarea videoclipurilor generate de AI către copii pe YouTube și YouTube Kids.

Miercuri, peste 200 de experți, organizații și instituții de învățământ au trimis o scrisoare CEO-ului Google, Sundar Pichai, și CEO-ului YouTube, Neal Mohan, exprimând îngrijorări cu privire la valoarea educațională și calitatea videoclipurilor generate de AI adresate publicului tânăr.

„Există multe lucruri pe care nu le știm despre consecințele conținutului generat de AI asupra copiilor”, se arată în scrisoare.

„YouTube participă la acest experiment necontrolat promovând conținut generat de AI fără cercetări care să-i demonstreze beneficiile și fără a recunoaște principiile dezvoltării copilului, care sugerează că este probabil dăunător.”

Susținere din partea unor figuri și organizații proeminente

Printre semnatari s-au numărat psihologul social Jonathan Haidt, autorul lucrării The Anxious Generation, organizații pentru apărarea drepturilor copiilor precum Fairplay și National Alliance to Advance Adolescent Health, American Federation of Teachers, precum și mai multe școli.

Au cerut YouTube să oprească orice investiții în crearea de videoclipuri generate de AI pentru copii.

Creșterea rapidă a conținutului generat de AI pe YouTube

Videoclipurile generate de AI au câștigat multă popularitate, în special cele destinate copiilor mici și preșcolarilor.

Creatorii se bazează adesea pe instrumente AI pentru a produce videoclipuri mai rapid și mai eficient din punct de vedere al costurilor, unii chiar distribuind tutoriale despre cum să monetizezi astfel de conținut pentru publicul tânăr.

YouTube a recunoscut necesitatea de a gestiona „AI slop” și de a menține o experiență sigură pentru utilizatori.

Potrivit experților, compania solicită creatorilor să eticheteze conținutul sintetic sau modificat și susține că sistemele sale penalizează producțiile spam sau de calitate scăzută.

Grupele de advocacy, însă, au susținut că astfel de etichete sunt puțin probabil să aibă semnificație pentru copiii pre-alfabetizați, care reprezintă o parte semnificativă a publicului țintă pentru conținutul AI.

YouTube răspunde

YouTube și-a apărat politicile, afirmând că menține standarde ridicate pentru conținutul de pe YouTube Kids și limitează conținutul generat de AI.

Platforma cere, de asemenea, utilizatorilor să eticheteze videoclipurile modificate cu AI și a luat măsuri împotriva conținutului spam creat cu ajutorul AI.

CEO-ul YouTube, Neal Mohan, a declarat anterior că gestionarea conținutului AI este o prioritate majoră.

Creșterea atenției asupra rețelelor sociale

Scrisoarea de miercuri survine în cadrul unor eforturi mai ample de a reforma modul în care platformele de socializare afectează copiii.

În martie, un proces istoric într-un proces cu juriu privind dependența de rețele sociale a stabilit responsabilitatea Google și Meta Platforms Inc. pentru că au prejudiciat o utilizatoare tânără cu produse concepute să o mențină activă online.

Ambele companii au anunțat că intenționează să facă apel, dar reclamanții, avocații consumatorilor și legislatorii cer acum modificări ale unor dintre cele mai profitabile funcții ale acestora, inclusiv algoritmii de recomandare a conținutului.

Criticii indică, de asemenea, investiția recentă a Google în Animaj, un studio de animație AI care produce conținut pentru copii, ca sursă de îngrijorare.

Ei susțin că expunerea copiilor mici la videoclipuri generate de AI prin astfel de canale poate amplifica riscurile pentru atenție, învățare și dezvoltare socială.