Pakar mendesak Google melarang video AI yang menyasarkan penonton muda YouTube

Google, sebuah anak syarikat Alphabet Inc., menghadapi tekanan yang semakin meningkat daripada pakar perkembangan kanak-kanak untuk menghentikan paparan atau cadangan video yang dijana AI kepada kanak-kanak di YouTube dan YouTube Kids.

Pada hari Rabu, lebih 200 pakar, organisasi dan institusi pendidikan menghantar surat kepada CEO Google Sundar Pichai dan CEO YouTube Neal Mohan, menyuarakan kebimbangan tentang nilai pendidikan dan kualiti video AI yang menyasarkan penonton muda.

“Banyak perkara yang kita tidak tahu tentang akibat kandungan AI terhadap kanak-kanak,” menurut surat itu.

“YouTube sedang mengambil bahagian dalam eksperimen tidak terkawal ini dengan menggalakkan kandungan yang dijana AI tanpa kajian yang menunjukkan manfaatnya dan tanpa mengiktiraf prinsip perkembangan kanak-kanak, yang mencadangkan ia berkemungkinan membahayakan”.

Sokongan daripada tokoh dan organisasi terkemuka

Antara penandatangan ialah ahli psikologi sosial Jonathan Haidt, pengarang The Anxious Generation, kumpulan advokasi kanak-kanak seperti Fairplay dan National Alliance to Advance Adolescent Health, American Federation of Teachers, serta beberapa sekolah.

Mereka mendesak YouTube menghentikan semua pelaburan dalam penghasilan video yang dijana AI untuk kanak-kanak.

Kandungan AI berkembang pesat di YouTube

Video yang dijana AI telah melonjak popularitinya, terutamanya bagi kandungan yang direka untuk kanak-kanak kecil dan prasekolah.

Pencipta sering bergantung pada alat AI untuk menghasilkan video dengan lebih cepat dan kos efektif, malah ada yang berkongsi tutorial tentang cara memonetkan kandungan sedemikian untuk penonton muda.

YouTube mengakui keperluan untuk menguruskan “AI slop” dan mengekalkan pengalaman pengguna yang selamat.

Menurut pakar, syarikat tersebut mengkehendaki pencipta melabelkan kandungan sintetik atau yang diubah suai dan mendakwa sistemnya memberi penalti kepada produksi yang bersifat spam atau berkualiti rendah.

Namun kumpulan advokasi berhujah bahawa label sedemikian tidak mungkin bermakna bagi kanak-kanak pra-literasi, yang membentuk sebahagian besar daripada audiens sasaran bagi kandungan AI.

Respons YouTube

YouTube mempertahankan dasar-dasarnya, menyatakan ia mengekalkan piawaian tinggi untuk kandungan di YouTube Kids dan mengehadkan kandungan yang dijana AI.

Platform itu juga mengkehendaki pengguna melabelkan video yang dimodifikasi oleh AI dan telah mengambil tindakan terhadap kandungan spam yang dihasilkan menggunakan AI.

CEO YouTube Neal Mohan sebelum ini menyatakan bahawa menguruskan kandungan AI adalah keutamaan utama.

Meningkatnya pengawasan terhadap media sosial

Surat hari Rabu itu muncul di tengah usaha yang lebih luas untuk membaiki kesan platform media sosial terhadap kanak-kanak.

Pada bulan Mac, sebuah perbicaraan juri bersejarah mengenai ketagihan media sosial mendapati Google dan Meta Platforms Inc. bertanggungjawab kerana mencederakan seorang pengguna muda dengan produk yang direka untuk memastikan dia terus terlibat secara dalam talian.

Kedua-dua syarikat telah mengumumkan rancangan untuk merayu, tetapi plaintif, pembela pengguna, dan penggubal undang-undang kini mendesak perubahan ke atas beberapa ciri paling menguntungkan mereka, termasuk algoritma saranan kandungan.

Pengkritik juga menunjuk kepada pelaburan terkini Google dalam Animaj, sebuah studio animasi AI yang menghasilkan kandungan untuk kanak-kanak, sebagai sumber kebimbangan.

Mereka berhujah bahawa mendedahkan kanak-kanak kecil kepada video yang dijana AI melalui saluran sedemikian boleh memburukkan risiko terhadap perhatian, pembelajaran, dan perkembangan sosial.