X menghadapi penelitian baharu Jepun apabila kebimbangan deepfake Grok tersebar di seluruh dunia

Jepun telah menyertai senarai negara yang semakin meningkat yang meneliti X berbanding perkhidmatan kecerdasan buatan Elon Musk Grok dan bimbang bahawa chatbot boleh digunakan untuk mencipta dan menyebarkan imej seksual orang tanpa persetujuan mereka.

Perkembangan itu menambah tekanan baharu pada platform media sosial apabila pengawal selia di seluruh dunia meningkatkan pemeriksaan ke atas alat AI yang mungkin melanggar hak privasi dan imej.

Langkah Jepun itu berlaku selepas Grok mencetuskan tindak balas bulan ini kerana betapa mudahnya ia boleh digunakan untuk memanipulasi foto untuk menseksualkan atau merendahkan individu. Walaupun sekatan telah diperkenalkan, pegawai mengatakan risiko itu belum dibendung sepenuhnya.

Menurut Bloomberg, Pejabat Kabinet telah meminta X untuk menambah baik perlindungan dan mengekang pengeluaran imej yang diubah secara seksual yang dicipta melalui Grok, kata Menteri Keselamatan Ekonomi Kimi Onoda.

Pegawai juga mengemukakan soalan bertulis tentang langkah-langkah yang telah dilaksanakan X untuk mencegah deepfake dan imej lain yang melanggar privasi, harta intelek dan hak orang untuk mengawal penggunaan rupa mereka, tambahnya.

Pejabat Kabinet mendesak X untuk mengukuhkan perlindungan Grok

Onoda berkata kerajaan sedang mencari jawapan yang lebih jelas tentang bagaimana X merancang untuk menghentikan penciptaan imej yang diubahsuai yang berbahaya, termasuk deepfake seksual tanpa persetujuan.

Pejabat Kabinet Jepun juga sedang melihat sama ada langkah-langkah semasa platform itu cukup berkesan untuk mencegah penyalahgunaan, terutamanya apabila alat menjadi lebih mudah diakses dan lebih sukar untuk dikesan.

Grok mendapat kritikan hebat bulan ini daripada pengguna dan kerajaan, dari Malaysia hingga Itali, mengenai kemudahan ia boleh digunakan untuk memanipulasi imej.

Sejak itu, Grok telah menggunakan beberapa sekatan ke atas keupayaan penjanaan imejnya dan meletakkannya di belakang dinding berbayar.

Jepun memberi amaran langkah undang-undang masih boleh dilakukan

Campur tangan Jepun telah disertai dengan amaran bahawa tindakan yang lebih tegas boleh dilakukan jika masalah itu berterusan. Bercakap pada sidang media pada hari Jumaat, Onoda berkata semua pilihan kekal tersedia jika X tidak meningkatkan perlindungan.

Beliau berkata kerajaan bersedia untuk mempertimbangkan langkah undang-undang jika tiada penambahbaikan.

Onoda juga memberi isyarat bahawa Jepun mungkin mengambil tindakan yang sama terhadap platform lain jika isu yang sama muncul di tempat lain, menunjukkan bahawa pengawal selia sedang memerhatikan pasaran AI yang lebih luas, bukan hanya Grok.

Awal minggu ini, xAI, syarikat di sebalik Grok, berkata ia melumpuhkan keupayaan pengguna untuk menjana imej seksual orang sebenar menggunakan chatbot.

Namun, Onoda berkata keupayaan berterusan untuk mencipta kandungan sedemikian kekal menjadi kebimbangan dan mungkin memerlukan langkah lanjut.

Siasatan global semakin luas apabila negara mengetatkan akses

Langkah Jepun datang ketika siasatan berkembang merentasi pelbagai bidang kuasa.

Kanada, California, Kesatuan Eropah dan negara anggota EU individu seperti Perancis sedang menyiasat sama ada imej yang dijana Grok melanggar hak rakyat.

Di bahagian Asia Tenggara, pihak berkuasa telah mengambil laluan yang lebih langsung dengan menyekat akses.

Malaysia, Indonesia dan Filipina telah menyekat akses domestik kepada Grok, mencerminkan kebimbangan yang semakin meningkat tentang seberapa cepat kandungan yang dijana AI boleh merebak dan betapa sukarnya untuk membendung sebaik sahaja dicipta.

Isu itu telah meletakkan X dan xAI di bawah perhatian yang diperbaharui pada masa kerajaan semakin menumpukan pada mengawal selia alat AI yang boleh mengaburkan garis antara media sebenar dan sintetik.

Undang-undang AI Jepun mengehadkan kuasa penguatkuasaan

Jepun cuba mengimbangi kawalan yang lebih ketat dengan cita-citanya untuk mengejar AS dan China dalam AI, bidang yang dilihatnya penting kepada strategi nasional.

Walau bagaimanapun, rangka kerja semasanya mungkin mengehadkan seberapa agresif ia boleh bertindak balas.

Undang-undang AI Jepun, yang berkuat kuasa sepenuhnya pada bulan September, tidak membawa penalti.

Ini mengehadkan campur tangan kerajaan sebahagian besarnya kepada penyiasatan dan mengeluarkan panduan rasmi apabila pelanggaran berlaku, dan bukannya mengenakan sekatan langsung.

Perbincangan di kalangan penggubal dasar Jepun telah tertumpu pada langkah-langkah seperti mendidik pengguna dan memerlukan perkhidmatan AI untuk menunjukkan apabila imej telah diubahsuai.

Menurut Bloomberg, Pejabat Kabinet juga berusaha untuk menyelaraskan langkah-langkah yang mungkin dengan Kementerian Kehakiman, Agensi Polis Kebangsaan dan Kementerian Komunikasi.