X menghadapi penelitian global apabila chatbot Grok menjana imej eksploitatif

Platform media sosial Elon Musk X (dahulunya dikenali sebagai Twitter) menghadapi penelitian kawal selia yang semakin meningkat merentas pelbagai bidang kuasa selepas chatbot Groknya digunakan untuk mencipta dan berkongsi imej seksual kanak-kanak dan wanita yang dijana AI.

Pihak berkuasa di Eropah, India dan Malaysia telah melancarkan siasatan, manakala pegawai di Brazil dan UK juga telah menyuarakan kebimbangan, menandakan salah satu cabaran kawal selia global yang paling serius setakat ini untuk cita-cita AI Musk.

Kontroversi itu tertumpu pada Grok Imagine, ciri yang dikemas kini baru-baru ini yang membolehkan pengguna menjana imej daripada gesaan berasaskan teks terus pada X.

Sejak beberapa minggu kebelakangan ini, alat itu dilaporkan telah digunakan untuk menghasilkan dan mengedarkan imej intim tanpa persetujuan (NCII), termasuk kandungan yang menggambarkan kanak-kanak bawah umur.

Kebanyakan imej ini telah tersebar secara meluas di platform, mendorong campur tangan daripada pengawal selia dan penyokong keselamatan.

Pengawal selia bergerak merentasi Eropah, Asia dan Amerika Latin

Di Eropah, isu itu telah mendapat kritikan tajam daripada pegawai.

Pada sidang akhbar pada hari Isnin, jurucakap Suruhanjaya Eropah Thomas Regnier berkata pihak berkuasa itu "sangat serius meneliti perkara ini," sambil menambah bahawa X dan Grok menawarkan "mod pedas" yang menghasilkan kandungan seksual eksplisit, termasuk imej seperti kanak-kanak.

"Ini bukan 'pedas,'" kata Regnier. "Ini menyalahi undang-undang. Ini mengerikan. Ini menjijikkan."

Badan pemerhati media Britain Ofcom mengesahkan ia telah meminta maklumat daripada X mengenai isu Grok.

Di India, Kementerian Elektronik dan Teknologi Maklumat mengarahkan X lewat minggu lalu untuk menjalankan "semakan peringkat teknikal, prosedur dan tadbir urus yang komprehensif" Grok, menetapkan tarikh akhir 5 Januari untuk pematuhan.

Suruhanjaya Komunikasi dan Multimedia Malaysia berkata ia sedang menyiasat platform itu dan akan memanggil wakil syarikat, menggesa perlindungan yang lebih kukuh sejajar dengan undang-undang tempatan.

Di Brazil, seorang ahli parlimen berkata beliau telah meminta pendakwa raya persekutuan dan pihak berkuasa perlindungan data negara itu untuk menggantung penggunaan Grok sehingga siasatan selesai.

Musk, xAI dan perbahasan keselamatan

Walaupun pakar keselamatan dan pengkritik teknologi mengutuk percambahan imej eksploitasi, Musk kelihatan mengejek kontroversi itu dengan berkongsi imej yang dijana Grok di X, termasuk satu yang menggambarkan dirinya dalam bikini.

X kemudiannya mengeluarkan respons awam pertamanya melalui akaun Keselamatan rasminya, menyatakan ia mengambil tindakan terhadap kandungan haram, termasuk bahan penderaan seksual kanak-kanak (CSAM), melalui penyingkiran, penggantungan akaun dan kerjasama dengan penguatkuasaan undang-undang.

Musk secara berasingan memberi amaran bahawa sesiapa yang menggesa Grok untuk mencipta kandungan haram akan menghadapi akibat yang sama seperti memuat naik bahan tersebut.

Seorang pekerja xAI berkata Grok Imagine telah dikemas kini, tetapi tidak menyatakan sama ada perubahan menangani penjanaan imej eksplisit yang berbahaya.

Di AS, Pusat Eksploitasi Seksual Kebangsaan meminta Jabatan Kehakiman dan Suruhanjaya Perdagangan Persekutuan untuk menyiasat.

Walaupun agensi persekutuan enggan mengulas, NCOSE berkata undang-undang sedia ada yang melarang penciptaan dan pengedaran CSAM boleh digunakan walaupun untuk kandungan yang dibuat secara maya dalam keadaan tertentu.

Trafik meningkat walaupun terdapat kontroversi

Walaupun tindak balas, penglibatan pengguna X tidak terjejas.

Data daripada Apptopia menunjukkan muat turun harian Grok telah meningkat 54% sejak 2 Januari, manakala muat turun harian X meningkat 25% dalam tempoh tiga hari yang lalu.

Pengkritik berpendapat episod itu menyerlahkan kelemahan dalam infrastruktur kepercayaan dan keselamatan X, terutamanya di sekitar kandungan yang dijana AI.