Mengapa model AI yang terlalu yakin mengutamakan ketegasan berbanding ketepatan

Kebimbangan semakin meningkat mengenai kebolehpercayaan model kecerdasan buatan, kerana penyelidikan baharu mendedahkan bahawa beberapa sistem popular menghasilkan maklumat yang salah dalam lebih satu pertiga daripada respons mereka, walaupun semakin bergantung dan kepercayaan terhadap teknologi AI, kata Kumpulan ING pada hari Rabu.

Model AI moden, yang menampilkan penaakulan yang mendalam, ingatan jangka panjang dan ejen autonomi, boleh melaksanakan tugas seperti penyemakan imbas web dengan campur tangan manusia yang minimum. 

Walau bagaimanapun, pelaksanaan tugas-tugas ini memerlukan data yang luas, yang membawa kepada pergantungan yang lebih besar kepada sumber data luaran yang selalunya tidak terkawal dan tidak disahkan, kata Julian Geib dari ING, ahli ekonomi junior, perdagangan global, dalam satu laporan.

Keyakinan berlebihan

Sistem AI terkemuka menjana tuntutan palsu pada kadar sehingga 40%, akibat yang diketengahkan dalam kajian baru-baru ini oleh Kesatuan Penyiaran Eropah (EBU).

Peningkatan kekerapan tindak balas sejajar dengan perubahan dalam tingkah laku model AI. 

Sistem AI terdahulu telah diprogramkan untuk enggan menjawab pertanyaan mengenai topik di luar set data latihan mereka. 

Walau bagaimanapun, sistem kontemporari dengan sambungan web direka bentuk untuk menjawab dengan lebih kerap, walaupun maklumat yang tersedia adalah terhad atau tidak pasti.

Peningkatan penglibatan pengguna adalah faedah, tetapi ia menghasilkan lebih banyak output rekaan, yang kami sebut "halusinasi AI", kata Geib. 

Kefasihan berbanding ketepatan

Malah model AI yang lebih baharu kerap mengalami halusinasi atas beberapa sebab. 

Terutamanya, apabila pengguna mengemukakan soalan yang kabur atau terlalu kompleks, model bergelut dengan tafsiran. 

Ini sering menyebabkan model bergantung pada corak statistik untuk "mengisi tempat kosong," menjana tindak balas yang kelihatan lengkap, tetapi berpotensi tidak tepat, kata Geib. 

Walaupun respons ini bertujuan untuk membantu, ia boleh memperkenalkan maklumat yang salah.

Model penalaan halus dengan maklum balas manusia selalunya memihak kepada jawapan yang yakin dan membantu, yang membawa kepada kecenderungan terhadap kenyataan yang tidak tepat tetapi tegas berbanding respons yang berhati-hati atau tidak menentu.

Masalahnya diburukkan lagi oleh "kadar tiada tindak balas" yang menjunam.  

Model lama menolak hampir 40% pertanyaan, tetapi yang lebih baru menjawab hampir segala-galanya.

Dalam bidang kritikal seperti politik dan kesihatan, keutamaan kefasihan berbanding ketepatan ini mewujudkan risiko maklumat salah yang serius.

AI menjadi alat yang lebih biasa untuk mengakses maklumat tentang peristiwa semasa, terutamanya dalam kalangan demografi yang lebih muda. 

Terutama, 15% orang di bawah umur 25 tahun menyatakan bahawa mereka bergantung pada chatbots AI sebagai sumber utama mereka untuk berita.

"Memandangkan peningkatan penggunaan AI secara persendirian dan dalam perniagaan, ketepatan harus menjadi keutamaan," kata Geib. 

Kesedaran penting

Geib menambah:

Batasan semasa dalam ketepatan AI menunjukkan bahawa penggantian borong keseluruhan bidang profesional dalam masa terdekat adalah peristiwa kebarangkalian yang sangat rendah, menurut Geib. 

Ini terutamanya kerana profesional manusia, dalam kebanyakan domain, beroperasi dengan tahap pertimbangan bernuansa, pemahaman kontekstual dan ketepatan yang sukar ditiru secara konsisten oleh sistem AI semasa. 

Oleh itu, risiko anjakan pekerjaan yang meluas menjadi kritikal hanya dalam senario di mana pengamal dalam profesion menjadi bergantung sepenuhnya kepada—dan gagal mengesahkan secara kritis—data dan kesimpulan yang berpotensi cacat atau salah yang dijana oleh AI. 

Pada asasnya, AI kini berfungsi sebagai alat yang berkuasa, namun tidak sempurna, dan ketidaktepatannya memastikan pengawasan manusia, pemikiran kritis dan pengesahan kekal sebagai komponen yang sangat diperlukan dalam kerja profesional.

"Kenyataan yang dijana AI harus dilayan dengan pemikiran kritis yang sama seperti tuntutan manusia," kata Geib.