Eksperci wzywają Google do zakazu filmów AI dla dzieci na YouTube

Google należące do Alphabet Inc. stoi w obliczu rosnącej presji ze strony ekspertów ds. rozwoju dzieci, którzy domagają się zatrzymania wyświetlania lub rekomendowania dzieciom na YouTube i YouTube Kids materiałów wideo generowanych przez AI.

W środę ponad 200 ekspertów, organizacji i instytucji edukacyjnych wysłało list do CEO Google Sundara Pichaia oraz CEO YouTube Neala Mohana, wyrażając obawy co do wartości edukacyjnej i jakości materiałów AI skierowanych do młodych widzów.

„Wiele nie wiemy o konsekwencjach treści generowanych przez AI dla dzieci” — napisano w liście.

„YouTube uczestniczy w tym niekontrolowanym eksperymencie, promując treści generowane przez AI bez badań potwierdzających ich korzyści i bez uwzględnienia zasad rozwoju dziecka, które sugerują, że mogą one być szkodliwe”.

Wsparcie ze strony znanych postaci i organizacji

Wśród sygnatariuszy znaleźli się psycholog społeczny Jonathan Haidt, autor książki The Anxious Generation, organizacje rzecznicze na rzecz dzieci, takie jak Fairplay i National Alliance to Advance Adolescent Health, American Federation of Teachers oraz kilka szkół.

Zaapelowali oni do YouTube o zaprzestanie wszelkich inwestycji w tworzenie materiałów wideo generowanych przez AI dla dzieci.

Boom treści AI na YouTube

Materiały wideo generowane przez AI zyskały na popularności, szczególnie wśród treści skierowanych do maluchów i małych dzieci.

Twórcy często korzystają z narzędzi AI, aby produkować filmy szybciej i taniej, a niektórzy nawet dzielą się poradnikami dotyczącymi monetyzacji takich treści dla młodych widzów.

YouTube przyznał, że konieczne jest zarządzanie „AI slop” i utrzymanie bezpiecznego doświadczenia użytkownika.

Według ekspertów firma wymaga od twórców oznaczania treści syntetycznych lub zmienionych i twierdzi, że jej systemy karzą spamowe lub niskiej jakości produkcje.

Grupy rzecznicze argumentowały jednak, że takie oznaczenia raczej nie będą miały znaczenia dla dzieci, które jeszcze nie potrafią czytać, a stanowią one istotną część docelowej publiczności treści AI.

Odpowiedź YouTube

YouTube broni swoich zasad, podkreślając, że utrzymuje wysokie standardy dotyczące treści na YouTube Kids i ogranicza materiały generowane przez AI.

Platforma wymaga również, aby użytkownicy oznaczali filmy zmodyfikowane przez AI i podjęła kroki przeciwko spamowym treściom tworzonym przy użyciu AI.

CEO YouTube Neal Mohan wcześniej stwierdził, że zarządzanie treściami AI jest priorytetem.

Rosnąca kontrola mediów społecznościowych

List z środy pojawia się w kontekście szerszych działań zmierzających do reformy wpływu platform społecznościowych na dzieci.

W marcu proces ławy przysięgłych w sprawie uzależnienia od mediów społecznościowych uznał Google i Meta Platforms Inc. za odpowiedzialne za wyrządzenie krzywdy młodej użytkowniczce za pomocą produktów zaprojektowanych tak, by utrzymywać jej zaangażowanie online.

Obie firmy ogłosiły plany odwoławcze, ale powódki, rzecznicy konsumentów i prawodawcy naciskają teraz na zmiany w niektórych z ich najbardziej dochodowych funkcji, w tym w algorytmach rekomendacji treści.

Krytycy zwracają także uwagę na niedawne inwestycje Google w Animaj, studio animacji AI produkujące treści dla dzieci, co budzi dodatkowe obawy.

Argumentują, że eksponowanie maluchów na filmy generowane przez AI poprzez takie kanały może pogłębiać ryzyko związane z uwagą, uczeniem się i rozwojem społecznym.