Pengawal selia UK menyiasat X berhubung imej berbahaya Grok AI di bawah undang-undang keselamatan dalam talian

Pengawal selia komunikasi UK, Ofcom, telah melancarkan siasatan rasmi ke atas X, meningkatkan penelitian kawal selia alat kecerdasan buatan yang dibenamkan dalam platform media sosial utama.

Siasatan itu memberi tumpuan kepada sama ada X telah memenuhi kewajipan undang-undangnya di bawah Akta Keselamatan Dalam Talian, berikutan kebimbangan meluas tentang cara chatbot AInya, Grok, telah digunakan untuk menjana kandungan yang menyalahi undang-undang dan berbahaya.

Langkah itu meletakkan UK antara senarai kerajaan yang semakin meningkat yang mempersoalkan sama ada perlindungan AI semasa mencukupi apabila alat penjanaan imej dan teks boleh diakses secara meluas dalam talian.

Ofcom melancarkan siasatan rasmi

Ofcom berkata pada hari Isnin bahawa ia telah membuka siasatan ke atas X, anak syarikat xAI, untuk menilai potensi kegagalan untuk mematuhi Akta Keselamatan Dalam Talian.

Perundangan itu memerlukan platform mengambil langkah untuk melindungi pengguna daripada kandungan haram dan mengurangkan risiko yang berkaitan dengan teknologi baru muncul.

Ofcom mempunyai kuasa untuk mengeluarkan denda atau menyekat perkhidmatan jika pelanggaran disahkan.

Pengawal selia kini akan menganalisis bukti yang diberikan oleh syarikat sebelum mencapai keputusan sementara.

Jika Ofcom menentukan bahawa undang-undang telah dilanggar, ia boleh mengenakan penalti ke atas X sehingga 10% daripada hasil globalnya atau £18 juta, mana-mana jumlah yang lebih tinggi.

Grok di bawah tumpuan kawal selia

Siasatan itu berpusat pada Grok, alat AI dengan perlindungan yang lebih sedikit daripada kebanyakan chatbot arus perdana.

Pengguna boleh berinteraksi dengan Grok terus pada X dengan menandakan chatbot dalam siaran, mendorongnya untuk menjana teks dan imej yang dipaparkan secara terbuka pada platform.

Pengawal selia dan penggubal undang-undang telah menyuarakan kebimbangan selepas pengguna mencipta sejumlah besar imejan yang tidak dipersetujui dan menyalahi undang-undang, termasuk bahan yang melibatkan kanak-kanak dan wanita.

Undang-undang UK melarang pemilikan atau perkongsian imej seksual kanak-kanak dan pengedaran imej intim tanpa persetujuan, termasuk kandungan yang dijana menggunakan alatan AI.

Piawaian undang-undang ini terpakai tanpa mengira sama ada imej sintetik atau diubah secara digital.

Tindak balas dan sekatan platform

Selepas pengguna berulang kali menyalahgunakan keupayaan penjanaan imej Grok, xAI mengehadkan ciri itu kepada pengguna berbayar di X.

Fungsi yang sama, bagaimanapun, kekal percuma pada apl Grok kendiri.

Elon Musk memberi amaran bulan ini bahawa sesiapa yang menggunakan Grok untuk mencipta kandungan haram akan menghadapi akibat yang sama seperti memuat naik bahan yang menyalahi undang-undang.

xAI telah berkata ia mengalih keluar siaran yang melanggar undang-undang, termasuk bahan penderaan seksual kanak-kanak, dan menggantung akaun yang didapati melanggar.

Kerajaan UK telah menunjukkan bahawa langkah-langkah ini mungkin tidak mencukupi. Setiausaha Perniagaan Peter Kyle berkata menteri akan mempertimbangkan untuk mengharamkan X jika perlu, sambil menekankan bahawa proses pengawalseliaan mesti berjalan lancar.

Tekanan antarabangsa yang semakin meningkat

Kebimbangan terhadap Grok telah meluas di luar UK.

Indonesia dan Malaysia menyekat alat itu buat sementara waktu pada hujung minggu, memetik risiko yang dikaitkan dengan kandungan yang menyalahi undang-undang.

Yayasan Internet Watch, yang ditetapkan oleh kerajaan UK untuk membantu mengenal pasti bahan penderaan seksual kanak-kanak, berkata ia telah menemui imej jenayah kanak-kanak di laman web gelap yang didakwa dihasilkan oleh Grok.

Di peringkat Eropah, Suruhanjaya Eropah mengarahkan X untuk memelihara dokumen dalaman yang berkaitan dengan Grok sehingga akhir tahun.

Pihak berkuasa Perancis telah menuduh alat itu menjana kandungan yang jelas menyalahi undang-undang tanpa persetujuan, menandakan potensi pelanggaran Akta Perkhidmatan Digital EU.

Peraturan itu memerlukan platform dalam talian yang besar untuk mengurangkan risiko yang berkaitan dengan penyebaran bahan haram, termasuk kandungan yang dihasilkan menggunakan AI.

Memandangkan pengawal selia merentas pelbagai bidang kuasa memperhebatkan tumpuan mereka pada perkhidmatan berkuasa AI, siasatan UK ke dalam X dijangka menguji cara undang-undang keselamatan dalam talian sedia ada digunakan untuk teknologi generatif yang berkembang pesat.