De ce modelele AI prea încrezătoare prioritizează asertivitatea în detrimentul acurateței

Îngrijorările cresc cu privire la fiabilitatea modelelor de inteligență artificială, pe măsură ce cercetări noi arată că unele sisteme populare produc informații incorecte în peste o treime din răspunsurile lor, în ciuda dependenței și încrederii tot mai mari acordate tehnologiei IA, a declarat miercuri ING Group.

Modelele moderne de inteligență artificială, care includ raționament profund, memorie pe termen lung și agenți autonomi, pot realiza sarcini precum navigarea pe internet cu intervenție umană minimă. 

Totuși, executarea acestor sarcini necesită date extinse, ceea ce duce la o dependență mai mare de surse externe de date, adesea necontrolate și neverificate, a declarat Julian Geib de la ING, economist junior pentru comerț global, într-un raport.

Încredere excesivă

Sistemele AI de top generează afirmații false cu o rată de până la 40%, o consecință evidențiată de un studiu recent realizat de Uniunea Europeană de Radiodifuziune (EBU).

Frecvența crescută a răspunsurilor se aliniază cu o schimbare în comportamentul modelelor AI. 

Sistemele AI anterioare erau programate să refuze să răspundă la întrebări legate de subiecte din afara seturilor lor de date de antrenament. 

Totuși, sistemele contemporane cu conectivitate web sunt proiectate să răspundă mai des, chiar și atunci când informațiile disponibile sunt limitate sau incerte.

Implicarea crescută a utilizatorilor este un beneficiu, dar duce la rezultate mai fabricate, pe care le numim "halucinații AI", a spus Geib. 

Fluență în detrimentul acurateței

Chiar și modelele AI mai noi experimentează frecvent halucinații din mai multe motive. 

În principal, atunci când utilizatorii pun întrebări vagi sau excesiv de complexe, modelul are dificultăți de interpretare. 

Acest lucru determină adesea modelul să se bazeze pe tipare statistice pentru a "completa golurile", generând un răspuns aparent complet, dar potențial inexact, a spus Geib. 

Deși aceste răspunsuri își propun să fie utile, ele pot introduce informații incorecte.

Ajustarea fină a modelelor cu feedback uman favorizează adesea răspunsuri încrezătoare, care sună util, ceea ce duce la o tendință spre afirmații inexacte, dar asertive, în detrimentul răspunsurilor prudente sau incerte.

Problema este agravată de scăderea drastică a "ratei de lipsă a răspunsului".  

Modelele mai vechi au refuzat aproape 40% din cereri, dar cele noi răspund aproape la tot.

În domenii critice precum politica și sănătatea, această prioritizare a fluenței în detrimentul acurateței creează riscuri serioase de dezinformare.

AI devine un instrument tot mai comun pentru accesarea informațiilor despre evenimentele curente, în special în rândul demografiam mai tânără. 

Notabil, 15% dintre persoanele sub 25 de ani afirmă că se bazează pe chatbot-urile AI ca sursă principală de știri.

"Având în vedere utilizarea tot mai mare a inteligenței artificiale atât în sectorul privat, cât și în afaceri, acuratețea ar trebui să fie o prioritate," a spus Geib. 

Conștientizarea este vitală

Geib a adăugat:

Limitările actuale ale acurateței IA sugerează că înlocuirea completă a întregii domenii profesionale în viitorul apropiat este un eveniment cu o probabilitate semnificativ scăzută, potrivit lui Geib. 

Acest lucru se datorează în principal faptului că profesioniștii umani, în majoritatea domeniilor, operează cu un grad de judecată nuanțată, înțelegere contextuală și acuratețe pe care sistemele AI actuale întâmpină cu greu să le reproducă constant. 

Riscul de înlocuire pe scară largă a locurilor de muncă devine, așadar, critic doar în scenarii în care practicienii dintr-o profesie devin complet dependenți — și nu verifică critic — datele și concluziile potențial eronate generate de IA. 

Practic, IA servește în prezent ca un instrument puternic, dar imperfect, iar inexactitățile sale asigură că supravegherea umană, gândirea critică și validarea rămân componente indispensabile ale muncii profesionale.

"Declarațiile generate de AI ar trebui tratate cu aceeași mentalitate critică ca și afirmațiile umane," a remarcat Geib.