Asiantuntijat kehottavat Googlea kieltämään lapsille kohdistetut tekoälyvideot

Alphabet Inc.:n Google on kohdannut kasvavaa painetta lapsen kehityksen asiantuntijoilta estää tekoälyn tuottamien videoiden näyttäminen tai suosittelu lapsille YouTubessa ja YouTube Kidsissä.

Keskiviikkona yli 200 asiantuntijaa, järjestöä ja oppilaitosta lähetti kirjeen Googlelle ja YouTuben toimitusjohtajalle Neal Mohanille, nostaen esiin huolia tekoälyvideoiden opetuksellisesta arvosta ja laadusta, kun kohderyhmänä ovat nuoret katsojat.

”Monia asioita emme vielä tiedä tekoälysisällön seurauksista lapsille”, kirje totesi.

”YouTube osallistuu tähän hallitsemattomaan kokeeseen edistämällä tekoälyn tuottamaa sisältöä ilman tutkimusta, joka osoittaisi sen hyödyt, eikä huomioimalla lapsen kehityksen periaatteita, jotka viittaavat siihen, että se todennäköisesti on haitallista.”

Tukea tunnetuilta henkilöiltä ja järjestöiltä

Allekirjoittajien joukossa olivat sosiaalipsykologi Jonathan Haidt, teoksen The Anxious Generation kirjoittaja, lapsi- ja nuorisojärjestöt kuten Fairplay ja National Alliance to Advance Adolescent Health, American Federation of Teachers sekä useita kouluja.

He kehottaisivat YouTubea lopettamaan kaikki investoinnit lasten tekoälyvideoiden tuottamiseen.

Tekoälysisältö kasvaa YouTubessa

Tekoälyn tuottamat videot ovat nousseet suosioon, erityisesti taaperoille ja pienille lapsille suunnatun sisällön kohdalla.

Sisällöntuottajat usein hyödyntävät tekoälytyökaluja tuottaakseen videoita nopeammin ja kustannustehokkaammin; jotkut jakavat jopa ohjeita siitä, miten tällaisesta sisällöstä voi ansaita nuorten katsojien parissa.

YouTube on tunnustanut tarpeen hallita ”AI slop” -ilmiötä ja varmistaa turvallinen käyttökokemus.

Yrityksen mukaan tekijöiden on merkittävä synteettinen tai muokattu sisältö, ja se väittää järjestelmiensä rankaisevan spämmimäisiä tai heikkolaatuisia tuotantoja.

Edunvalvontaryhmät kuitenkin katsoivat, että tällaiset merkinnät eivät todennäköisesti ole merkityksellisiä ennenlukutaitoisille lapsille, jotka muodostavat merkittävän osan tekoälysisällön kohdeyleisöstä.

YouTube vastaa

YouTube on puolustanut käytäntöjään todeten, että se ylläpitää korkeita sisältöstandardeja YouTube Kidsissä ja rajoittaa tekoälyn tuottamaa sisältöä.

Alusta vaatii myös käyttäjiä merkitsemään tekoälyllä muokatut videot ja on ryhtynyt toimiin tekoälyn avulla luotua spämmimäistä sisältöä vastaan.

YouTuben toimitusjohtaja Neal Mohan on aiemmin todennut, että tekoälysisällön hallinta on yksi tärkeimmistä prioriteeteista.

Sosiaalisen median tarkastelun lisääntyminen

Keskiviikon kirje tulee osana laajempaa pyrkimystä uudistaa sosiaalisen median alustojen lapsiin kohdistuvia vaikutuksia.

Maaliskuussa merkittävä valamiehistöoikeudenkäynti sosiaalisen median riippuvuudesta katsoi Googlen ja Meta Platforms Inc:n vastuullisiksi siitä, että niiden tuotteet, joiden tarkoituksena oli pitää käyttäjä sitoutuneena verkossa, vahingoittivat nuorta käyttäjää.

Molemmat yhtiöt ovat ilmoittaneet aikeistaan valittaa, mutta kantajat, kuluttaja-aktivistit ja lainsäätäjät vaativat nyt muutoksia joihinkin yhtiöiden tuottoisimmista ominaisuuksista, mukaan lukien sisällön suositusalgoritmit.

Kriitikot viittaavat myös Googlen äskettäiseen sijoitukseen Animajiin, tekoälyanimaatiostudioon, joka tuottaa lasten sisältöä, huolten aiheuttajana.

Heidän mukaansa taaperoiden altistaminen tekoälyllä tuotetuille videoille tällaisissa kanavissa voi pahentaa riskejä tarkkaavaisuudelle, oppimiselle ja sosiaaliselle kehitykselle.