Birleşik Krallık düzenleyicisi, çevrimiçi güvenlik yasası kapsamında Grok AI'nin zararlı görüntüleri nedeniyle X'i sorguladı

Birleşik Krallık iletişim düzenleyicisi Ofcom, X hakkında resmi bir soruşturma başlattı ve büyük sosyal medya platformlarına gömülü yapay zeka araçlarına yönelik düzenleyici denetimi artırdı.

Soruşturma, X'in Çevrimiçi Güvenlik Yasası kapsamındaki yasal yükümlülüklerini yerine getirip getirmediğine odaklanıyor; çünkü yapay zeka sohbet botu Grok'un yasa dışı ve zararlı içerik üretmek için nasıl kullanıldığına dair yaygın endişeler yaşanıyor.

Bu hamle, Birleşik Krallık'ı, görüntü ve metin oluşturma araçları çevrimiçi olarak yaygın olarak erişilebilir hale getirildiğinde mevcut yapay zeka önlemlerinin yeterli olup olmadığını sorgulayan hükümetler listesine giriyor.

Ofcom resmi soruşturma başlattı

Ofcom, Pazartesi günü, xAI'nin bir yan kuruluşu olan X hakkında çevrimiçi güvenlik yasası'na uymama olasılığını değerlendirmek için bir soruşturma açtığını açıkladı.

Yasa, platformların kullanıcıları yasa dışı içerikten korumak ve yeni teknolojilerle ilgili riskleri azaltmak için adımlar atmasını zorunlu kılıyor.

Ofcom, ihlaller doğrulanırsa para cezası verme veya hizmetleri engelleme yetkisine sahiptir.

Düzenleyici, geçici bir karara varmadan önce şirketin sağladığı kanıtları analiz edecek.

Ofcom, yasanın ihlal edildiğini tespit ederse, X'e küresel gelirinin %10'una kadar veya £18 milyon ceza uygulayabilir; hangisi daha yüksekse.

Grok düzenleyici spot ışığında

Soruşturma, birçok ana akım sohbet botundan daha az koruma sağlayan yapay zeka aracı Grok üzerinde şekilleniyor.

Kullanıcılar, sohbet botunu gönderilerde etiketleyerek Grok ile doğrudan X üzerinde etkileşime girebiliyor; böylece platformda herkese açık olarak görünen metin ve görseller oluşturuyor.

Düzenleyiciler ve yasama organları, kullanıcıların çocuklar ve kadınlarla ilgili materyaller de dahil olmak üzere büyük miktarda rızaya dayalı olmayan ve yasa dışı görüntü üretmesinin ardından endişelerini dile getirdi.

Birleşik Krallık yasaları, çocukların cinsel fotoğraflarının bulundurulmasını veya paylaşılmasını ve yapay zeka araçları kullanılarak üretilen içerik dahil dahil olmak üzere rızasız cinsel görüntülerin yayılmasını yasaklıyor.

Bu yasal standartlar, görüntülerin sentetik ya da dijital olarak değiştirilmiş olmasına bakılmaksızın geçerlidir.

Platform tepkisi ve kısıtlamalar

Kullanıcılar Grok'un görüntü oluşturma yeteneklerini defalarca kötüye kullandıktan sonra, xAI özelliği X'teki ücretli kullanıcılarla sınırladı.

Ancak aynı işlevsellik bağımsız Grok uygulamasında ücretsiz olarak kaldı.

Elon Musk bu ay, Grok'u yasa dışı içerik oluşturmak için kullanan herkesin yasa dışı materyal yüklemekle aynı sonuçlarla karşılaşacağını uyardı.

xAI, yasayı ihlal eden gönderileri, çocuk cinsel istismarı materyalleri de dahil olmak üzere, kaldırdığını ve ihlal ettiği tespit edilen hesapları askıya aldığını açıkladı.

Birleşik Krallık hükümeti, bu adımların yetersiz olabileceğini belirtti. İş Bakanı Peter Kyle, bakanların gerekirse X'i yasaklamayı düşüneceğini söyledi ve düzenleyici sürecin kendi gücü altında ilerlemesi gerektiğini vurguladı.

Artan uluslararası baskı

Grok hakkındaki endişeler Birleşik Krallık'ın ötesine de yayıldı.

Endonezya ve Malezya , yasa dışı içeriklerle bağlantılı riskleri gerekçe göstererek hafta sonu aracı geçici olarak engelledi.

Birleşik Krallık hükümeti tarafından çocuk cinsel istismarı materyallerini tanımlamaya yardımcı olmak için belirlenen Internet Watch Foundation, Grok tarafından üretildiği iddia edilen karanlık ağda çocukların suç görüntüleri bulduğunu açıkladı.

Avrupa düzeyinde, Avrupa Komisyonu X'e Grok ile ilgili iç belgeleri yıl sonuna kadar korumasını emretti.

Fransız yetkililer, aracı izni olmadan açıkça yasa dışı içerik üretmekle suçladı ve AB'nin Dijital Hizmetler Yasası'nın olası ihlallerini işaret etti.

Düzenleme, yapay zeka kullanılarak üretilen içerik dahil olmak üzere yasa dışı materyallerin yayılmasıyla ilgili riskleri azaltmak için büyük çevrimiçi platformların gerekmesini zorunlu kılıyor.

Birden fazla yargı alanındaki düzenleyiciler yapay zeka destekli hizmetlere odaklandıkça, Birleşik Krallık'taki X soruşturmasının mevcut çevrimiçi güvenlik yasalarının hızla gelişen üretken teknolojilere nasıl uygulandığını test etmesi bekleniyor.