X, Grok'un deepfake endişeleri dünya çapında yayılırken Japonya'da yeni bir incelemeyle karşı karşıya

Japonya, Elon Musk'un yapay zeka servisi Grok nedeniyle X'i inceleyen ve sohbet botunun insanların rızaları olmadan cinsel görüntülerini yaratmak ve yaymak için kullanılabileceğinden endişe duyan giderek artan bir ülke listesine katıldı.

Bu gelişme, dünya genelinde düzenleyicilerin gizlilik ve görsel haklarını ihlal edebilecek yapay zeka araçlarına yönelik denetimleri artırmasıyla sosyal medya platformunda yeni baskı oluşturuyor.

Japonya'nın bu hamlesi, Grok'un bu ay fotoğrafları manipüle ederek bireyleri cinselleştirmek veya küçümsemek için ne kadar kolay kullanılabileceğiyle ilgili tepkileri tetikledikten sonra geldi. Kısıtlamalar getirilmiş olsa da, yetkililer riskin tam olarak kontrol altına alınmadığını söylüyor.

Bloomberg'e göre, Kabine Ofisi, X'ten Grok aracılığıyla oluşturulan cinsel olarak değiştirilmiş görüntülerin üretimini azaltmasını ve güvenlik önlemlerini artırmasını istedi, Ekonomik Güvenlik Bakanı Kimi Onoda'yı söyledi.

Yetkililer ayrıca, X'in insanların gizliliğini, fikri mülkiyetini ve benzerliklerinin kullanımını kontrol etme hakkını ihlal eden deepfake ve diğer görüntüleri önlemek için hangi önlemleri aldığına dair yazılı sorular sundu, ekledi.

Kabine Ofisi, X'i Grok korumalarını güçlendirmeye zorladı

Onoda, hükümetin X'in rızaya dayalı olmayan cinsel cinsel sahteler de dahil olmak üzere zararlı tahrip edilmiş görüntülerin oluşturulmasını nasıl durdurmayı planladığına dair daha net cevaplar aradığını söyledi.

Japonya Kabine Ofisi ayrıca, platformun mevcut önlemlerinin kötüye kullanımı önleme için yeterince etkili olup olmadığını inceliyor; özellikle araçlar daha erişilebilir ve tespit edilmesi zorlaştıkça.

Grok, bu ay Malezya'dan İtalya'ya kadar kullanıcılar ve hükümetler tarafından, görüntüleri manipüle etmek için ne kadar kolay kullanılabileceği nedeniyle ağır eleştirilere maruz kaldı.

O zamandan beri Grok, görüntü oluşturma yeteneklerine bazı kısıtlamalar uyguladı ve bunları ödeme duvarı arkasına koydu.

Japonya, yasal adımların mümkün olduğunu söylüyor

Japonya'nın müdahalesi, sorun devam ederse daha güçlü önlemlerin mümkün olabileceği uyarısıyla birlikte geldi. Cuma günü düzenlenen basın toplantısında konuşan Onoda, X koruma önlemlerini iyileştirmezse tüm seçeneklerin mevcut kalacağını söyledi.

Hükümetin iyileşme olmazsa yasal adımları değerlendirmeye hazır olduğunu söyledi.

Onoda ayrıca, aynı tür sorun başka yerlerde ortaya çıkarsa Japonya'nın diğer platformlara karşı benzer önlemler alabileceğini belirtti ve düzenleyicilerin sadece Grok'u değil, daha geniş yapay zeka pazarını da izlediğini gösteriyor.

Bu hafta başlarında, Grok'un arkasındaki şirket xAI, kullanıcıların chatbot kullanarak gerçek insanların cinselleştirilmiş görüntülerini oluşturabilme yeteneğini kapattığını söyledi.

Yine de, Onoda böyle içeriklerin yaratılması konusunda devam eden bir endişe kaynağı olduğunu ve daha fazla önlem gerektirebileceğini söyledi.

Ülkeler erişimi kısıtlarken küresel soruşturmalar genişliyor

Japonya'nın bu hamlesi, soruşturmaların birden fazla yargı alanına yayıldığı bir dönemde geldi.

Kanada, Kaliforniya, Avrupa Birliği ve Fransa gibi bireysel AB üye devletleri, Grok'un oluşturduğu görüntülerin insan haklarını ihlal edip etmediğini araştırıyor.

Güneydoğu Asya'nın bazı bölgelerinde yetkililer erişimi kısıtlayarak daha doğrudan bir yol seçti.

Malezya, Endonezya ve Filipinler, Grok'a iç içi erişimi kısıtladı; bu, yapay zeka tarafından üretilen içeriğin ne kadar hızlı yayılabileceği ve oluşturulduktan sonra ne kadar zor olabileceği konusundaki artan endişeleri yansıtıyor.

Bu konu, X ve xAI'yi yeniden dikkat çekti; hükümetler gerçek ve sentetik medya arasındaki çizgiyi bulanıklaştırabilen yapay zeka araçlarını düzenlemeye giderek daha fazla odaklanıyor.

Japonya'nın yapay zeka yasası uygulama gücünü sınırlıyor

Japonya, ulusal strateji için önemli gördüğü yapay zeka alanında ABD ve Çin'e yetişme hırsıyla daha sıkı kontrolleri dengelemeye çalışıyor.

Ancak, mevcut çerçevesi ne kadar agresif yanıt verebileceğini sınırlayabilir.

Eylül ayında tam yürürlüğe giren Japonya'nın yapay zeka yasası herhangi bir ceza içermiyor.

Bu durum, hükümet müdahalesini büyük ölçüde soruşturmalar ve ihlaller olduğunda resmi rehberlik vererek sınırlandırır, doğrudan yaptırımlar uygulamak yerine.

Japon politika yapıcılar arasındaki tartışmalar, kullanıcıların eğitimi ve yapay zeka hizmetlerinin görüntülerin ne zaman değiştirildiğini göstermesini zorunlu kılmak gibi önlemler üzerine odaklandı.

Bloomberg'e göre, Kabine Ofisi ayrıca Adalet Bakanlığı, Ulusal Polis Ajansı ve İletişim Bakanlığı ile olası adımları koordine etmeye çalışıyor.