Uzmanlar Google'dan çocukları hedef alan yapay zekâ videolarını yasaklamasını istedi

Alphabet Inc.'e bağlı Google, YouTube ve YouTube Kids'te çocuklara gösterilen veya önerilen yapay zekâ tarafından oluşturulan videoların durdurulması yönünde çocuk gelişimi uzmanlarından artan baskıyla karşı karşıya.

Çarşamba günü, 200'den fazla uzman, kuruluş ve eğitim kurumu Google CEO'su Sundar Pichai ile YouTube CEO'su Neal Mohan'a bir mektup göndererek genç izleyicileri hedefleyen yapay zekâ videolarının eğitsel değeri ve kalitesi konusunda endişelerini dile getirdi.

“Yapay zekâ içeriklerinin çocuklar üzerindeki sonuçları hakkında bilmediğimiz çok şey var,” mektupta belirtildi.

“YouTube, faydalarını gösteren araştırma olmadan ve çocuk gelişimi ilkelerini dikkate almadan yapay zekâ üretimi içeriği öne çıkararak bu kontrolsüz deneye katılıyor; bu ilkeler bunun muhtemelen zararlı olduğunu öne sürüyor.”

Önde gelen kişi ve kuruluşlardan destek

İmzacılar arasında The Anxious Generation kitabının yazarı sosyal psikolog Jonathan Haidt, Fairplay ve National Alliance to Advance Adolescent Health gibi çocuk savunuculuğu grupları, American Federation of Teachers ve birkaç okul yer aldı.

İmzacılar, YouTube'dan çocuklara yönelik yapay zekâ üretimi videoların oluşturulmasına yönelik tüm yatırımları durdurmasını talep etti.

YouTube'da yapay zekâ içeriği patlaması

Yapay zekâ tarafından oluşturulan videolar özellikle bebekler ve küçük çocuklar için tasarlanan içerikler arasında popülerlik kazandı.

İçerik üreticileri genellikle videoları daha hızlı ve maliyet etkin şekilde üretmek için yapay zekâ araçlarına dayanıyor; bazıları bu tür içeriklerden para kazanma yöntemlerine ilişkin eğitimler bile paylaşıyor.

YouTube, “AI slop” olarak adlandırılabilecek içeriği yönetme ve güvenli bir kullanıcı deneyimi sağlama ihtiyacını kabul etti.

Uzmanlara göre şirket, sentetik veya değiştirilmiş içeriğin etiketlenmesini içerik üreticilerinden talep ediyor ve sistemlerinin spam veya düşük kaliteli üretimleri cezalandırdığını iddia ediyor.

Ancak savunuculuk grupları, bu tür etiketlerin hedef kitlenin önemli bir bölümünü oluşturan okuryazarlık öncesi çocuklar için anlamlı olmayacağını savundu.

YouTube yanıt veriyor

YouTube, YouTube Kids'teki içerik için yüksek standartlar uyguladığını ve yapay zekâ üretimi içeriği sınırladığını savunarak politikalarını savundu.

Platform ayrıca kullanıcıların yapay zekâ ile değiştirilmiş videoları etiketlemesini zorunlu kılıyor ve yapay zekâ kullanılarak oluşturulan spam içeriklere karşı adımlar attığını belirtiyor.

YouTube CEO'su Neal Mohan daha önce yapay zekâ içeriğini yönetmenin en öncelikli konulardan biri olduğunu söylemişti.

Sosyal medyanın artan incelenmesi

Çarşamba günkü mektup, sosyal medya platformlarının çocuklar üzerindeki etkisini reforme etme yönündeki daha geniş çabaların ortasında geldi.

Mart ayında, sosyal medya bağımlılığı üzerine yapılan emsal bir jüri davası Google ve Meta Platforms Inc.'i çevrimiçi kullanıcıyı meşgul tutmaya yönelik tasarlanmış ürünleri nedeniyle zarar vermekten sorumlu buldu.

Her iki şirket de temyize gitme planı açıkladı, ancak davacılar, tüketici savunucuları ve yasama organları, içerik öneri algoritmaları da dahil olmak üzere en karlı özelliklerden bazılarında değişiklik yapılması için baskı yapıyor.

Eleştirmenler ayrıca Google'ın çocuklar için içerik üreten bir yapay zekâ animasyon stüdyosu olan Animaj'a yaptığı son yatırımı endişe kaynağı olarak gösteriyor.

Onlar, bu tür kanallar aracılığıyla bebeklerin yapay zekâ üretimi videolara maruz bırakılmasının dikkat, öğrenme ve sosyal gelişim açısından riskleri artırabileceğini savunuyor.