OpenAI mengenal pasti pengguna China yang memanfaatkan ChatGPT untuk alat pemantauan, pemprofilan

OpenAI telah mengatakan bahawa pengguna yang disyaki berkaitan dengan kerajaan China cuba menggunakan ChatGPT untuk mereka bentuk cadangan dan bahan pemasaran untuk alat pengawasan besar-besaran, termasuk sistem untuk memantau orang Uyghur dan mengimbas media sosial untuk ucapan politik atau agama.

Dalam laporan perisikan ancaman yang baru dikeluarkan bertajuk "Mengganggu Penggunaan Berniat Jahat Model Kami," OpenAI menggariskan pelbagai kes di mana akaun yang terikat dengan pelakon gabungan kerajaan menggunakan alat kecerdasan buatannya untuk tujuan yang berpotensi menindas.

Syarikat itu berkata pengguna menggunakan ChatGPT untuk merangka dokumen projek, menyahpepijat kod dan menganalisis data yang berkaitan dengan menjejaki pergerakan individu, rekod polis dan aktiviti dalam talian.

Pengguna yang dipautkan kepada entiti Cina

Salah satu contoh yang paling menarik melibatkan pengguna ChatGPT "mungkin berkaitan dengan entiti kerajaan [Chinese] " yang meminta model itu merangka cadangan untuk apa yang digambarkan sebagai "Model Amaran Aliran Masuk Berkaitan Uyghur Berisiko Tinggi."

Cadangan itu memperincikan rancangan untuk sistem yang akan menganalisis tempahan pengangkutan dan membandingkannya dengan pangkalan data polis untuk mengeluarkan amaran mengenai pergerakan orang yang dikategorikan sebagai "berkaitan Uyghur dan berisiko tinggi."

Pengguna lain, menulis dalam bahasa Cina, meminta bantuan mereka bentuk bahan promosi untuk alat "siasatan media sosial" yang kononnya dibina untuk pelanggan kerajaan.

Menurut laporan OpenAI, alat itu digambarkan sebagai mampu mengimbas platform seperti X (dahulunya Twitter), Facebook, Instagram, Reddit, TikTok dan YouTube untuk mengenal pasti "ucapan pelampau" atau kandungan politik, etnik dan agama.

OpenAI berkata kedua-dua akaun diharamkan sebaik sahaja syarikat itu mengesan aktiviti itu.

Ia menekankan bahawa tiada bukti pengguna menggunakan ChatGPT untuk menjalankan pengawasan sebenar atau alat itu akhirnya digunakan.

Sekilas tentang penggunaan AI oleh pelakon autoritarian

Laporan itu merangka penemuan itu sebagai "gambaran yang jarang berlaku" tentang bagaimana pelaku autoritarian dan berniat jahat mula memasukkan AI generatif ke dalam operasi mereka—tidak semestinya untuk mencipta bentuk peperangan siber baharu, tetapi untuk memperhalusi keupayaan sedia ada dalam analisis data, propaganda dan pemantauan sosial.

"Seperti yang kami tulis pada bulan Jun, RRC sedang membuat kemajuan sebenar dalam memajukan versi autokratik AI," kata syarikat itu dalam laporan itu.

"Gangguan kami terhadap akaun ChatGPT yang digunakan oleh individu yang nampaknya dikaitkan dengan entiti kerajaan China menyerlahkan keadaan semasa penggunaan AI dalam persekitaran autoritarian ini."

OpenAI menekankan bahawa aktiviti yang dikenal pasti nampaknya dijalankan oleh pengguna individu, bukan operasi institusi berskala besar.

Walau bagaimanapun, syarikat itu berkata insiden itu menyerlahkan keperluan untuk kewaspadaan berterusan mengenai "potensi penyalahgunaan autoritarian" AI generatif.

Amaran OpenAI yang lebih luas

OpenAI berkata ia mendedahkan penemuan itu secara terbuka untuk memberi amaran kepada penggubal dasar, penyelidik dan industri teknologi tentang cara AI boleh digunakan semula untuk pengawasan dan penindasan.

Syarikat itu menggesa pemantauan proaktif dan perlindungan yang lebih ketat untuk mengelakkan penyalahgunaan yang serupa.

"Aktiviti itu konsisten dengan pengguna individu yang menggunakan ChatGPT, dan bukannya penggunaan institusi berskala besar bagi model kami," kata laporan itu.

"Oleh itu, ia adalah gambaran terhad penggunaan model AI yang berbeza dalam konteks ini."