AS, Britain dan EU menandatangani perjanjian AI antarabangsa pertama untuk pembangunan yang bertanggungjawab

Kesatuan Eropah, AS dan UK telah menandatangani perjanjian antarabangsa pertama yang mengikat secara sah di dunia mengenai kecerdasan buatan (AI) dan sistem berkaitan, yang dikenali sebagai Konvensyen AI.

Diguna pakai pada Mei selepas bertahun-tahun rundingan di kalangan 57 negara, perjanjian itu bertujuan untuk menangani risiko yang ditimbulkan oleh AI sambil mempromosikan inovasi yang bertanggungjawab.

Sesetengah pakar berpendapat bahawa bahasa dan kaveat luas perjanjian itu boleh menjejaskan keberkesanannya.

Walaupun perkembangan ini menandakan peristiwa penting dalam usaha global untuk mengawal selia AI, persoalan kekal mengenai kesan praktikal dan penguatkuasaannya.

Perjanjian AI diterima pakai oleh 57 negara

Konvensyen AI, yang pertama seumpamanya, memberi tumpuan kepada melindungi hak asasi manusia bagi mereka yang terjejas oleh sistem AI.

Perjanjian ini berasingan daripada Akta AI EU, yang berkuat kuasa bulan lepas dan mengenakan peraturan ketat mengenai pembangunan dan penggunaan AI dalam EU.

Dirundingkan oleh 57 negara, Konvensyen AI mencerminkan komitmen global untuk memastikan teknologi AI tidak menjejaskan nilai asas seperti hak asasi manusia dan kedaulatan undang-undang.

Majlis Eropah, sebuah organisasi antarabangsa yang berbeza daripada EU, menerajui perjanjian itu. Dengan mandat untuk melindungi hak asasi manusia, Majlis itu merangkumi 46 negara anggota, yang terdiri daripada semua 27 negara anggota EU.

Penerimaan perjanjian itu mengikuti perbincangan selama bertahun-tahun, bermula dengan kajian kemungkinan pada 2019 dan memuncak dengan penubuhan Jawatankuasa Kepintaran Buatan pada 2022 untuk mendraf teks.

Pakar meminta mekanisme penguatkuasaan yang lebih kuat

Konvensyen AI membenarkan penandatangan untuk menerima pakai atau mengekalkan langkah perundangan, pentadbiran atau lain-lain untuk melaksanakan peruntukannya.

Walaupun tumpuan utama perjanjian itu adalah untuk memastikan sistem AI sejajar dengan perlindungan hak asasi manusia, pengkritik berpendapat bahawa bahasa yang luas dan banyak pengecualian boleh mengehadkan keberkesanannya.

Francesca Fanucci, pakar undang-undang di European Centre for Not-for-Profit Law Stichting (ECNL), yang menyumbang kepada proses penggubalan perjanjian itu, telah menyatakan kebimbangan mengenai kebolehkuatkuasaannya.

Fanucci menyatakan bahawa “perumusan prinsip dan kewajipan” dalam konvensyen itu adalah “terlalu luas dan penuh dengan kaveat,” menimbulkan persoalan tentang kepastian undang-undang dan penguatkuasaan yang berkesan.

Satu kritikan utama tertumpu pada pengecualian yang dibenarkan untuk sistem AI yang digunakan untuk tujuan keselamatan negara dan perbezaan yang dilihat dalam penelitian antara syarikat swasta dan sektor awam.

Perjanjian itu mencerminkan percubaan untuk mengimbangi keperluan untuk inovasi dengan keperluan untuk melindungi hak asasi manusia dan menegakkan standard etika.

Menteri kehakiman Britain, Shabana Mahmood, menyifatkan konvensyen itu sebagai “langkah utama” dalam memastikan teknologi AI boleh dimanfaatkan tanpa menghakis nilai asas seperti hak asasi manusia dan kedaulatan undang-undang.

Kerajaan UK telah menyatakan ia akan bekerjasama dengan pengawal selia, pentadbiran yang diturunkan dan pihak berkuasa tempatan untuk melaksanakan keperluan baharu perjanjian itu dengan sewajarnya.

Perbezaan antara Akta AI EU dan Konvensyen AI

Konvensyen AI yang baru ditandatangani berbeza daripada Akta AI EU, yang telah pun mengenakan peraturan komprehensif ke atas sistem AI dalam pasaran dalaman EU.

Akta AI mengkategorikan aplikasi AI berdasarkan tahap risikonya—risiko tidak boleh diterima, tinggi, terhad dan minimum—masing-masing dengan keperluan yang sepadan untuk pematuhan, ketelusan dan tadbir urus.

Sebaliknya, Konvensyen AI menyediakan rangka kerja untuk kerjasama dan bimbingan antarabangsa, tetapi dengan set prinsip yang lebih luas yang sesetengah orang berpendapat kurang kekhususan.

Bagaimanakah negara akan menguatkuasakan prinsip?

Walaupun Konvensyen AI telah dipuji sebagai langkah penting ke arah landskap AI yang lebih terkawal, kritikan di sekitar kelemahan yang dirasakan dan prinsip umum menunjukkan bahawa penambahbaikan selanjutnya mungkin diperlukan.

Fanucci dan pakar undang-undang lain berpendapat bahawa tanpa peruntukan yang lebih kukuh dan jelas, perjanjian itu mungkin bergelut untuk menguatkuasakan perlindungan yang bermakna terhadap potensi penyalahgunaan teknologi AI.

Keperluan untuk kerjasama antarabangsa dalam tadbir urus AI adalah jelas, tetapi cabarannya terletak pada mewujudkan rangka kerja yang mengikat secara sah yang mengimbangi inovasi dengan akauntabiliti secara berkesan.

Memandangkan teknologi AI terus berkembang pesat, keberkesanan perjanjian seperti Konvensyen AI mungkin bergantung pada pindaan masa depan, garis panduan yang lebih ketat dan kemahuan politik para penandatangannya untuk menguatkuasakannya.

Kesan perjanjian itu sebahagian besarnya bergantung pada cara negara penandatangan melaksanakan peruntukannya dan menangani kritikan yang dibangkitkan. Landskap AI global sentiasa berkembang, dan keperluan untuk peraturan yang boleh suai dan boleh dikuatkuasakan adalah penting.

Semasa UK dan negara lain berusaha untuk membenamkan prinsip perjanjian ke dalam undang-undang negara, keberkesanan usaha perintis ini akan diawasi dengan teliti oleh pembuat dasar, perniagaan dan kumpulan masyarakat sivil di seluruh dunia.