EU membuka siasatan ke atas X Musk berhubung Grok AI dan kemungkinan pelanggaran keselamatan kanak-kanak

Kesatuan Eropah telah membuka siasatan rasmi ke atas platform media sosial Elon Musk X atas kebimbangan bahawa chatbot kecerdasan buatan Groknya mungkin telah menjana imej deepfake yang "mungkin merupakan bahan penderaan seksual kanak-kanak."

Suruhanjaya Eropah berkata siasatan itu akan menilai sama ada X mematuhi kewajipannya di bawah Akta Perkhidmatan Digital (DSA) blok itu untuk mengenal pasti, menilai dan mengurangkan risiko yang berkaitan dengan penggunaan Grok di seluruh 27 negara anggota EU dengan betul.

Siasatan itu menambah penelitian yang semakin meningkat terhadap amalan penyederhanaan kandungan X dan boleh mencetuskan lagi ketegangan antara Brussels dan Washington.

Fokus pada penilaian dan mitigasi risiko

Menurut Suruhanjaya, siasatan itu akan mengkaji sama ada X menangani risiko sistemik yang dikaitkan dengan pelancaran Grok, terutamanya risiko menjana deepfake seksual tanpa persetujuan yang melibatkan wanita dan kanak-kanak.

Kes itu berada di bawah DSA, buku peraturan kandungan dalam talian EU yang mengenakan keperluan ketat pada platform besar untuk mencegah penyebaran bahan haram dan berbahaya.

"Deepfake seksual wanita dan kanak-kanak tanpa persetujuan adalah satu bentuk kemerosotan yang ganas dan tidak boleh diterima," kata pesuruhjaya teknologi EU Henna Virkkunen.

Suruhanjaya berkata siasatan itu tidak akan melibatkan langkah sementara pada peringkat ini.

Di bawah Akta Perkhidmatan Digital, yang berkuat kuasa pada 2023, EU mempunyai kuasa untuk mengenakan denda sehingga 6% daripada perolehan tahunan syarikat di seluruh dunia kerana kegagalan menangani kandungan haram, mengurangkan risiko sistemik atau mematuhi keperluan ketelusan.

Tindak balas antarabangsa yang semakin meningkat terhadap Grok

Siasatan EU berikutan kecaman global yang semakin meningkat terhadap Grok dalam beberapa minggu kebelakangan ini.

Pengguna di beberapa negara telah melaporkan bahawa chatbot AI menjana imejan seksual dan menyiarkannya ke X, mencetuskan tindak balas daripada pengawal selia dan penyokong keselamatan kanak-kanak.

Di United Kingdom, pengawal selia komunikasi Ofcom sudah menyiasat secara rasmi sama ada X melanggar Akta Keselamatan Dalam Talian negara berhubung dengan output Grok.

Pihak berkuasa di Perancis dan India juga telah menyuarakan kebimbangan, menuduh chatbot mencipta imej seksual individu secara haram tanpa persetujuan mereka.

X, yang merupakan anak syarikat syarikat AI Musk xAI, sebelum ini mengatakan bahawa ia mengalih keluar kandungan haram, termasuk bahan penderaan seksual kanak-kanak, menggantung akaun yang menyinggung perasaan dan bekerjasama dengan penguatkuasaan undang-undang apabila perlu.

Ketegangan dengan Washington menjulang

Siasatan Grok datang sejurus selepas EU mengenakan penalti berasingan €120 juta ($142 juta) ke atas X di bawah DSA.

Dalam kes terdahulu itu, pengawal selia EU menyimpulkan bahawa sistem tanda semak biru berbayar X mengelirukan pengguna, bahawa platform itu gagal menyediakan akses data yang mencukupi kepada penyelidik, dan bahawa ia tidak menubuhkan repositori ketelusan pengiklanan dengan betul.

Denda itu mendapat kritikan tajam daripada pentadbiran Trump, yang telah merangka peraturan digital EU sebagai serangan terhadap kebebasan bersuara dan syarikat teknologi Amerika.

Menjelang penalti Disember, Naib Presiden AS JD Vance menulis di X bahawa "EU harus menyokong kebebasan bersuara, bukan menyerang syarikat Amerika kerana sampah."

Pegawai Eropah, bagaimanapun, secara konsisten menolak tuntutan tersebut, dengan alasan bahawa DSA direka untuk melindungi hak dan keselamatan pengguna dan bukannya menyekat ekspresi yang sah.