Malaysia, Indonesia menyekat Grok AI Musk berhubung imej deepfake eksplisit

Malaysia dan Indonesia telah menyekat akses kepada chatbot kecerdasan buatan Elon Musk Grok, memetik kebimbangan bahawa alat itu digunakan untuk menjana kandungan tanpa persetujuan, seksual eksplisit dan lucah, termasuk bahan yang melibatkan wanita dan kanak-kanak.

Tindakan yang diselaraskan pada hujung minggu menandakan larangan pertama alat AI yang diketahui di seluruh dunia dan menambah tekanan kawal selia yang semakin meningkat ke atas xAI dan platform induknya, X.

Pengawal selia memetik kegagalan dalam perlindungan

Suruhanjaya Komunikasi dan Multimedia Malaysia mengarahkan sekatan sementara ke atas Grok pada hari Ahad, menunjukkan apa yang disifatkannya sebagai "kegagalan berulang oleh X Corp" untuk menangani risiko kandungan yang berkaitan dengan chatbot itu.

Pengawal selia berkata respons X adalah "tidak mencukupi" dan terlalu bergantung pada mekanisme pelaporan pengguna dan bukannya menangani risiko struktur dalam reka bentuk alat AI.

"Oleh itu, sekatan itu dikenakan sebagai langkah pencegahan dan berkadar sementara proses undang-undang dan kawal selia sedang dijalankan," kata suruhanjaya itu.

"Akses kepada Grok akan kekal terhad sehingga perlindungan yang berkesan dilaksanakan, terutamanya untuk mencegah kandungan yang melibatkan wanita dan kanak-kanak."

Indonesia mengenakan sekatan sementara yang sama sehari sebelumnya.

Kementerian Komunikasi dan Hal Ehwal Digitalnya berkata ia telah meminta pegawai X untuk menjelaskan perkara itu, menekankan bahawa penyalahgunaan AI untuk menjana pornografi palsu merupakan "keganasan berasaskan digital."

Menteri Meutya Hafid berkata, "Kerajaan melihat deepfake seksual tanpa persetujuan sebagai pelanggaran serius hak asasi manusia, maruah dan keselamatan rakyat dalam ruang digital."

Kedua-dua negara menguatkuasakan undang-undang anti-pornografi yang ketat, yang melarang pengedaran dalam talian bahan lucah atau seksual.

Tuduhan penyalahgunaan dan penelitian global

Larangan itu berikutan laporan bahawa Grok membolehkan pengguna menjana dan berkongsi imej eksplisit yang tidak dipersetujui, termasuk bahan penderaan seksual kanak-kanak.

Yayasan Internet Watch memberitahu NBC News bahawa ia telah melihat pengguna laman web gelap berkongsi "imejan jenayah" yang mereka katakan dicipta menggunakan Grok, menggambarkan gadis bawah umur hampir tidak berpakaian.

Wired juga melaporkan bahawa alat itu telah digunakan untuk menanggalkan wanita secara digital dalam foto yang memakai pakaian sederhana atau keagamaan seperti tudung, sari, dan tabiat biarawati.

Jangkauan Grok berkembang baru-baru ini selepas xAI mengemas kini ciri "Grok Imagine", menjadikan penjanaan imej daripada gesaan teks lebih mudah dan menyepadukan alat dengan lebih mendalam dengan X.

Pihak berkuasa di wilayah lain, termasuk Kesatuan Eropah, UK, Brazil dan India, juga telah melancarkan siasatan ke atas peranan Grok dalam memudahkan deepfake lucah dan tidak dipersetujui.

Di AS, beberapa penggubal undang-undang Demokrat telah menggesa kedai aplikasi untuk menggantung alat AI sehingga perlindungan yang lebih kukuh disediakan.

Tindak balas xAI dan implikasi pasaran

Di tengah-tengah tindak balas, xAI berkata ia akan mengehadkan penjanaan imej dan ciri penyuntingan kepada pelanggan yang membayar dalam usaha untuk merapatkan jurang perlindungan.

Musk berkata di X bahawa pengguna yang mencipta kandungan haram melalui Grok akan menghadapi akibat yang setara dengan memuat naik bahan sedemikian terus ke platform media sosial.

Walau bagaimanapun, pengawal selia berkata langkah-langkah itu tidak cukup jauh.

CNBC melaporkan bahawa percubaan untuk menghubungi xAI untuk mendapatkan komen mengembalikan balasan automatik yang menyatakan, "Pembohongan Media Warisan."