Pourquoi des modèles d’IA trop confiants privilégient l’affirmation plutôt que la précision

Les inquiétudes grandissent quant à la fiabilité des modèles d’intelligence artificielle, alors que de nouvelles recherches révèlent que certains systèmes populaires produisent des informations incorrectes dans plus d’un tiers de leurs réponses, malgré la confiance croissante accordée à la technologie de l’IA, a déclaré ING Group mercredi.

Les modèles d’IA modernes, dotés d’un raisonnement profond, d’une mémoire à long terme et d’agents autonomes, peuvent effectuer des tâches comme la navigation web avec un minimum d’intervention humaine.

Cependant, l’exécution de ces tâches exige des données étendues, ce qui conduit à une plus grande dépendance à des sources de données externes souvent non contrôlées et non vérifiées, a déclaré Julian Geib, économiste junior du commerce mondial d’ING, dans un rapport.

Surconfiance

Les systèmes d’IA de premier plan génèrent de fausses affirmations à un taux allant jusqu’à 40 %, une conséquence mise en avant dans une étude récente de l’Union européenne de radio-télévision (UER).

L’augmentation de la fréquence des réponses correspond à un changement dans le comportement des modèles d’IA.

Les systèmes d’IA antérieurs étaient programmés pour refuser de répondre à des questions concernant des sujets en dehors de leurs jeux de données d’entraînement.

Cependant, les systèmes contemporains dotés de connectivité web sont conçus pour répondre plus souvent, même lorsque les informations disponibles sont limitées ou incertaines.

L’engagement accru des utilisateurs est un avantage, mais cela entraîne des résultats plus fabriqués, que nous appelons « hallucinations de l’IA », a expliqué Geib.

Fluidité plutôt que précision

Même les modèles d’IA plus récents subissent fréquemment des hallucinations pour plusieurs raisons.

Principalement, lorsque les utilisateurs posent des questions vagues ou trop complexes, le modèle a du mal à interpréter.

Cela conduit souvent le modèle à s’appuyer sur des schémas statistiques pour « combler les blancs », générant une réponse apparemment complète, mais potentiellement factuellement inexacte, a expliqué Geib.

Bien que ces réponses visent à être utiles, elles peuvent introduire des informations incorrectes.

L’ajustement fin des modèles avec un retour humain favorise souvent des réponses confiantes et utiles, ce qui conduit à un biais pour des affirmations inexactes mais affirmées plutôt que des réponses prudentes ou incertaines.

Le problème s’aggrave avec la chute du « taux de réponse » en chute.

Les anciens modèles refusaient près de 40 % des requêtes, mais les modèles plus récents répondaient presque à tout.

Dans des domaines critiques comme la politique et la santé, cette priorité donnée à la fluidité plutôt qu’à la précision crée de graves risques de désinformation.

L’IA devient un outil de plus en plus courant pour accéder à des informations sur l’actualité, en particulier auprès des jeunes démographiques.

Notamment, 15 % des personnes de moins de 25 ans déclarent s’appuyer sur les chatbots IA comme principale source d’informations.

« Compte tenu de l’utilisation croissante de l’IA, tant en privé que dans les entreprises, la précision devrait être une priorité », a déclaré Geib.

La sensibilisation est essentielle

Geib a ajouté :

Les limites actuelles de la précision de l’IA suggèrent que le remplacement complet de domaines professionnels entiers dans un avenir proche est un événement à probabilité significativement faible, selon Geib.

Cela s’explique principalement par le fait que les professionnels humains, dans la plupart des domaines, opèrent avec un jugement nuancé, une compréhension contextuelle et une précision que les systèmes d’IA actuels peinent à reproduire de manière cohérente.

Le risque de remplacement généralisé d’emplois devient donc crucial uniquement dans des situations où les praticiens d’une profession deviennent entièrement dépendants — et ne vérifient pas de manière critique — les données et conclusions potentiellement erronées ou défaillantes générées par l’IA.

Essentiellement, l’IA agit actuellement comme un outil puissant, mais imparfait, et ses inexactitudes garantissent que la supervision humaine, la pensée critique et la validation restent des composantes indispensables du travail professionnel.

« Les déclarations générées par l’IA doivent être traitées avec la même mentalité critique que les affirmations humaines », a souligné Geib.