Neden aşırı kendine güvenen yapay zeka modelleri doğruluğun önüne geçerken iddialılığı öne çıkarıyor

Yapay zeka modellerinin güvenilirliği konusunda endişeler artıyor; yeni araştırmalar, bazı popüler sistemlerin yanıtlarının üçte birinden fazlasında yanlış bilgi ürettiğini ortaya koymaktadır; buna rağmen yapay zeka teknolojisine artan güven ve güven artıyor, ING Group Çarşamba günü açıkladı.

Derin akıl yürütme, uzun vadeli hafıza ve otonom ajanlar sunan modern yapay zeka modelleri, internet taraması gibi görevleri minimum insan müdahalesiyle gerçekleştirebilir. 

Ancak, bu görevlerin uygulanması kapsamlı veri gerektiriyor ve bu da genellikle kontrolsüz ve doğrulanmamış dış veri kaynaklarına daha fazla bağımlılığa yol açıyor, dedi ING'den küresel ticaretten sorumlu genç ekonomist Julian Geib, bir raporda.

Aşırı özgüven

Önde gelen yapay zeka sistemleri, Avrupa Yayın Birliği (EBU) tarafından yapılan yakın tarihli bir çalışmada da %40'a kadar yanlış iddialar üretmektedir.

Artan yanıt sıklığı, yapay zeka modeli davranışındaki bir değişimle uyumludur. 

Önceki yapay zeka sistemleri, eğitim veri setleri dışındaki konulara cevap vermeyi reddedecek şekilde programlanmıştı. 

Ancak, web bağlantısı olan çağdaş sistemler, mevcut bilgiler sınırlı veya belirsiz olsa bile daha sık yanıt verecek şekilde tasarlanmıştır.

Artan kullanıcı katılımı bir fayda olsa da, daha fazla yapay çıktı ortaya çıkarıyor ve buna "yapay zeka halüsinasyonları" diyoruz, dedi Geib. 

Akıcılık doğruluktan çok

Daha yeni yapay zeka modelleri bile çeşitli nedenlerle halüsinasyonlar yaşar. 

Öncelikle, kullanıcılar belirsiz veya aşırı karmaşık sorular sorduğunda, model yorumlamada zorlanır. 

Geib, bunun modelin "boşlukları doldurmak" için istatistiksel kalıplara dayanmasına yol açıyor; bu da görünüşte tam ama potansiyel olarak gerçekte yanlış bir yanıt üretiyor. 

Bu yanıtlar faydalı olmayı amaçlasa da, yanlış bilgi verebilirler.

İnsan geri bildirimiyle modellerin ince ayarlanması genellikle kendinden emin ve faydalı gelen cevapları tercih eder; bu da temkinli veya belirsiz yanıtlar yerine yanlış ama iddialı ifadelere yönelmeye yol açar.

Sorun, "yanıt vermeme oranı" oranının düşüşüyle daha da kötüleşiyor.  

Eski modeller soruların neredeyse %40'ını reddetti, ancak yeni modeller neredeyse her şeyi yanıtlıyor.

Siyaset ve sağlık gibi kritik alanlarda, akıcılığın doğruluk yerine önceliklendirilmesi ciddi yanlış bilgi riskleri yaratıyor.

Yapay zeka, özellikle genç demografik gruplar arasında, güncel olaylarla ilgili bilgilere erişim için giderek daha yaygın bir araç haline geliyor. 

Özellikle, 25 yaş altı kişilerin %15'i ana haber kaynağı olarak yapay zeka sohbet botlarına güvendiğini belirtiyor.

"Yapay zekanın hem özel hem de işletmelerde artan kullanımı göz önüne alındığında, doğruluk öncelik olmalı," dedi Geib. 

Farkındalık hayati

Geib ekledi:

Yapay zekanın doğruluğundaki mevcut sınırlamalar, Geib'e göre, yakın gelecekte tüm profesyonel alanların toptan yerini değiştirmesinin önemli ölçüde düşük olasılıklı bir olay olduğunu gösteriyor. 

Bunun başlıca nedeni, insan profesyonellerin, çoğu alanda, mevcut yapay zeka sistemlerinin tutarlı şekilde taklit etmekte zorlandığı incelikli yargı, bağlamsal anlayış ve doğruluk derecesiyle çalışmalarıdır. 

Bu nedenle, yaygın iş yerinden edilme riski, yalnızca bir meslek uygulayıcılarının yapay zeka tarafından üretilen potansiyel olarak hatalı veya hatalı veri ve sonuçlara tamamen bağımlı hale geldiği ve eleştirel olarak doğrulamadığı durumlarda kritik hale gelir. 

Temelde, yapay zeka şu anda güçlü ama kusurlu bir araç olarak hizmet veriyor ve yanlışlıkları, insan gözetiminin, eleştirel düşünmenin ve doğrulamanın profesyonel çalışmanın vazgeçilmez bileşenleri olarak kalmasını sağlıyor.

"Yapay zeka tarafından oluşturulan ifadeler, insan iddiaları gibi eleştirel bir bakış açısıyla ele alınmalıdır," diye belirtti Geib.