X, Grok sohbet botunun sömürücü görüntüler oluşturmasıyla küresel inceleme karşısında

Elon Musk'ın sosyal medya platformu X (eski adıyla Twitter), Grok sohbet botunun yapay zeka tarafından üretilen çocuk ve kadınların cinselleştirilmiş görüntülerini oluşturmak ve paylaşmak için kullanılmasının ardından birçok yargı alanında artan düzenleyici denetimle karşı karşıya.

Avrupa, Hindistan ve Malezya'daki yetkililer soruşturmalar başlatırken, Brezilya ve Birleşik Krallık'taki yetkililer de endişelerini dile getirdi; bu, Musk'ın yapay zeka hedefleri için şimdiye kadarki en ciddi küresel düzenleyici zorluklardan birini işaret ediyor.

Tartışma, kullanıcıların metin tabanlı istemlerden doğrudan X üzerinde görüntü üretebilmelerini sağlayan yakın zamanda güncellenmiş Grok Imagine özelliği etrafında şekilleniyor.

Son birkaç hafta boyunca, aracın rızasız ve samimi görüntüler (NCII) üretmek ve dağıtmak için kullanıldığı, bunlar arasında reşit olmayanları tasvir eden içerikler de var.

Bu görüntülerin birçoğu platformda geniş yayılmış ve düzenleyiciler ile güvenlik savunucularının müdahalesini tetiklemiştir.

Düzenleyiciler Avrupa, Asya ve Latin Amerika genelinde hareket ediyor

Avrupa'da bu konu yetkililerden sert eleştiriler aldı.

Pazartesi günü yapılan basın toplantısında, Avrupa Komisyonu sözcüsü Thomas Regnier, otoritenin bu konuyu "çok ciddi şekilde incelediğini" ve X ile Grok'un çocukça görüntüler de dahil olmak üzere açık cinsel içerik üreten "baharatlı bir mod" sunduğunu ekledi.

"Bu 'acılı' değil," dedi Regnier. "Bu yasa dışı. Bu korkunç. Bu."

İngiltere'nin medya gözetimi Ofcom, Grok konularıyla ilgili X'ten bilgi talep ettiğini doğruladı.

Hindistan'da Elektronik ve Bilgi Teknolojileri Bakanlığı, geçen hafta sonunda X'e Grok'un "kapsamlı teknik, prosedürel ve yönetişim düzeyinde incelemesi" yapmasını emrederek uyum için 5 Ocak tarihini belirledi.

Malezya İletişim ve Multimedya Komisyonu, platformu araştırdığını ve şirket temsilcilerini çağırarak yerel yasalarla uyumlu daha güçlü koruma önlemleri talep edeceğini açıkladı.

Brezilya'da bir milletvekili, federal kamu savcısından ve ülkenin veri koruma otoritesinden Grok'un kullanımını soruşturma tamamlanana kadar askıya almasını istediğini söyledi.

Musk, xAI ve güvenlik tartışması

Güvenlik uzmanları ve teknoloji eleştirmenleri sömürücü görüntülerin yayılmasını kınamışken, Musk tartışmayı alay ederek Grok tarafından oluşturulmuş görüntüleri X'te paylaştı; bunların arasında kendisinin bikini içinde olduğu bir fotoğraf da vardı.

X daha sonra resmi Güvenlik hesabı üzerinden ilk kamuya açık yanıtını yayınladı ve çocuk cinsel istismarı materyalleri (CSAM) dahil olmak üzere yasa dışı içeriklere karşı kaldırma, hesap askıya alma ve kolluk kuvvetleriyle iş birliği yoluyla önlem aldığını belirtti.

Musk, Grok'u yasa dışı içerik oluşturmaya teşvik eden herkesin bu tür materyalleri yüklemekle aynı sonuçlarla karşılaşacağını ayrıca uyardı.

Bir xAI çalışanı, Grok Imagine'in güncellendiğini söyledi, ancak zararlı ve açık görüntü üretimini ele alan değişikliklerin ele alınıp alınmadığını belirtmedi.

ABD'de, Ulusal Cinsel İstismar Merkezi, Adalet Bakanlığı ve Federal Ticaret Komisyonu'ndan soruşturma yapmalarını istedi.

Federal kurumlar yorum yapmayı reddederken, NCOSE mevcut CSAM yaratımı ve dağıtımını yasaklayan yasaların belirli durumlarda sanal olarak oluşturulmuş içeriklere bile uygulanabileceğini söyledi.

Tartışmalara rağmen trafik artıyor

Tepkilere rağmen, X'in kullanıcı etkileşimi zarar görmedi.

Apptopia'dan alınan veriler, Grok'un günlük indirmelerinin 2 Ocak'tan bu yana %54 arttığını, X indirimlerinin ise son üç günde %25 arttığını gösteriyor.

Eleştirmenler, bölümün özellikle yapay zeka tarafından üretilen içerik konusunda X'in güven ve güvenlik altyapısındaki zayıflıkları ortaya koyduğunu savunuyor.