Lembaga Pengawasan Meta menandakan risiko bias politik dalam model AI terkemuka

Model kecerdasan buatan yang dibangunkan oleh syarikat terkemuka, termasuk Anthropic dan OpenAI, jauh kurang cenderung menghasilkan kandungan yang mengkritik kerajaan yang diketahui mengehadkan kebebasan bersuara, menurut kajian baru yang dikeluarkan oleh Lembaga Pengawasan Meta pada hari Khamis.

Lembaga itu berkata penemuan itu mencadangkan bahawa model bahasa besar mungkin mencerminkan sekatan kebebasan bersuara yang dikenakan oleh sesetengah kerajaan, menimbulkan kebimbangan bahawa bias politik boleh menjadi terbenam dalam perkhidmatan AI yang digunakan oleh semakin ramai orang.

Kajian meneliti 10 model AI merentasi pelbagai bidang kuasa

Penyelidikan ini menandakan kajian pertama Lembaga Pengawasan yang menumpukan pada model bahasa besar.

Lembaga itu, yang dibiayai oleh Meta tetapi beroperasi secara bebas, menguji arahan yang mengandungi kritik politik merentasi 10 bidang kuasa menggunakan 10 model AI.

Model-model tersebut termasuk sistem yang dibangunkan oleh Meta Platforms, Google dan DeepSeek dari China, disamping model daripada syarikat AI terkemuka lain, termasuk Anthropic dan OpenAI.

Untuk menjalankan analisis, lembaga itu membahagikan bidang kuasa kepada dua kategori — "permissive" dan "restrictive."

Klasifikasi itu berdasarkan kedudukan yang diterbitkan oleh Freedom House dalam laporan tahunan Freedom in the World.

Model menunjukkan kadar penolakan lebih tinggi untuk kerajaan yang bersifat 'restrictive'

Menurut kajian itu, model AI menolak 34% permintaan yang mencari kandungan kritikal politik mengenai bidang kuasa 'restrictive' yang secara aktif menghukum kritik sedemikian, termasuk China dan Arab Saudi.

Sebaliknya, kadar penolakan menurun kepada 14% bagi bidang kuasa yang sama ada tidak mempunyai undang-undang sedemikian atau tidak menguatkuasakan secara aktif.

Lembaga itu berkata penemuan tersebut menunjukkan sistem AI mungkin lebih berhati-hati apabila menjawab arahan yang melibatkan kerajaan dengan kawalan lebih ketat terhadap ucapan politik.

Lembaga mengesan rujukan tidak dapat dijelaskan kepada peraturan yang tidak wujud

Selain kadar penolakan, Lembaga Pengawasan berkata ia mengenal pasti contoh di mana model AI nampaknya mempertahankan tindak balas mereka dengan merujuk kepada peraturan yang tidak dapat disahkan.

"Kami juga melihat bukti model menerangkan bahawa mereka mengikuti peraturan eksplisit yang, setakat yang kami ketahui, tidak wujud dan tidak digunakan secara sekata," kata lembaga itu.

Lembaga itu berkata ini menimbulkan persoalan tambahan tentang bagaimana sistem AI menentukan bila untuk menolak permintaan yang sensitif dari segi politik dan sama ada keputusan tersebut digunakan secara konsisten.

Lembaga Pengawasan menyeru ketelusan lebih besar

Sebagai tindak balas terhadap penemuannya, Lembaga Pengawasan menyeru pembangun AI untuk menjalankan penilaian hak asasi manusia secara sistematik sebagai sebahagian daripada pembangunan dan penyebaran model mereka.

Ia juga menyeru syarikat AI untuk memberikan ketelusan lebih besar mengenai kaedah latihan dan proses penilaian mereka, dengan hujah bahawa keterbukaan yang meningkat akan membantu pengguna dan penyelidik memahami dengan lebih baik bagaimana kandungan sensitif politik dikendalikan.

Kajian itu muncul di tengah perbincangan yang lebih luas mengenai tadbir urus sistem AI maju.

Awal minggu ini, Ketua Pegawai Eksekutif Google DeepMind, Demis Hassabis, menyeru penubuhan badan pengawas AI yang diterajui AS untuk menilai model AI maju di peringkat global sebelum dikerahkan.

Laporan Lembaga Pengawasan menambah kepada perdebatan yang sedang berlangsung mengenai keseimbangan antara keselamatan AI, neutraliti politik dan ketelusan, mencadangkan bahawa cara model bertindak balas terhadap topik sensitif politik mungkin berbeza bergantung pada kerajaan yang terlibat dan persekitaran undang-undang di mana kerajaan tersebut beroperasi.