Malezya ve Endonezya, Musk'ın Grok yapay zekasını açık derin sahte görüntüler nedeniyle engelledi

Malezya ve Endonezya, Elon Musk'ın yapay zeka sohbet robotu Grok'a erişimi engelledi; aracın rızasız, cinsel asurlu ve müstehcen içerikler üretmek için kullanıldığına dair endişeleri gerekçe göstererek, kadınlar ve çocuklarla ilgili materyaller de dahil olmak üzere.

Hafta sonu yapılan koordineli eylem, yapay zeka aracının küresel olarak bilinen ilk yasaklanmasını işaret ediyor ve xAI ile ana platformu X üzerinde artan düzenleyici baskıyı artırıyor.

Düzenleyiciler, koruma önlemlerindeki başarısızlıkları belirtiyor

Malezya İletişim ve Multimedya Komisyonu, Pazar günü Grok'a geçici kısıtlama emri verdi ve "X Corp'un sohbet botuyla ilgili içerik risklerini ele almadaki tekrarlayan başarısızlıkları" olarak tanımladığı duruma işaret etti.

Düzenleyici, X'in yanıtlarının "yetersiz" olduğunu ve yapay zeka aracının tasarımındaki yapısal riskleri ele almak yerine kullanıcı raporlama mekanizmalarına fazla dayandığını belirtti.

"Bu nedenle, kısıtlama koruyucu ve orantılı bir önlem olarak uygulanıyor ve yasal ve düzenleyici süreçler devam ediyor," diye komisyon bildirdi.

"Grok'a erişim, özellikle kadınlar ve çocukları içeren içeriklerin önlenmesi için etkili korumalar uygulanana kadar kısıtlı kalacak."

Endonezya bir gün önce benzer geçici bir blok uyguladı.

İletişim ve Dijital İşler Bakanlığı, X yetkililerinden konuyu netleştirmelerini istediğini açıkladı ve yapay zekanın sahte pornografi üretimi için kötüye kullanılmasının "dijital temelli şiddet" olduğunu vurguladı.

Bakan Meutya Hafid, "Hükümet, rızasız cinsel deepfake işlemlerini dijital alanda insan hakları, onur ve vatandaş güvenliğinin ciddi bir ihlali olarak görüyor." dedi.

Her iki ülke de, müstehcen veya cinsel materyallerin çevrimiçi dağıtımını yasaklayan katı anti-pornografi yasaları uygular.

Yanlış kullanım iddiaları ve küresel inceleme

Yasağlar, Grok'un kullanıcıların rızaya dayalı olmayan açık görüntüler üretip paylaşmasına olanak tanıdığına dair raporların ardından geldi.

Internet Watch Foundation, NBC News'e karanlık web kullanıcılarının Grok kullanılarak oluşturulduğunu söyledikleri "suç görüntülerini" paylaştığını ve reşit olmayan kızların neredeyse tamamen soyunmuş halde gösterildiğini söyledi.

Wired ayrıca, aracın başörtü, sari ve rahibe alışkanlıkları gibi mütevazı veya dini kıyafetler giyen kadınları dijital olarak soyundurmak için kullanıldığını bildirdi.

Grok'un erişimi, xAI'nin "Grok Imagine" özelliklerini güncellemesinin ardından genişledi; metin istemlerinden görüntü üretimini kolaylaştırdı ve aracı X ile daha derinlemesine entegre etti.

Avrupa Birliği, Birleşik Krallık, Brezilya ve Hindistan gibi diğer bölgelerdeki yetkililer de Grok'un müstehcen ve rızasız deepfake yapılarını kolaylaştırmadaki rolüne dair soruşturmalar başlattı.

ABD'de bazı Demokrat milletvekilleri, uygulama mağazalarını daha güçlü önlemler uygulanana kadar yapay zeka aracını askıya almaya çağırdı.

xAI yanıtı ve piyasa sonuçları

Tepkiler arasında, xAI güvenlik boşluklarını kapatmak amacıyla görüntü üretimi ve düzenleme özelliklerini ücretli abonelerle sınırlayacağını açıkladı.

Musk, X'te, Grok aracılığıyla yasa dışı içerik üreten kullanıcıların bu tür materyalleri doğrudan sosyal medya platformuna yüklemekle eşdeğer sonuçlarla karşılaşacağını söyledi.

Ancak düzenleyiciler bu adımların yeterince ileri gitmediğini söyledi.

CNBC, xAI ile yorum için iletişime geçme girişimlerinin otomatik olarak "Eski Medya Yalanları" şeklinde bir yanıt verdiğini bildirdi.