Le conseil de surveillance de Meta alerte sur des risques de biais politiques dans les modèles d'IA

Les modèles d'intelligence artificielle développés par des entreprises majeures, notamment Anthropic et OpenAI, ont beaucoup moins de chances de produire des contenus politiquement critiques à l'égard de gouvernements connus pour restreindre la liberté d'expression, selon une nouvelle étude publiée jeudi par le Conseil de surveillance de Meta.

Le conseil a déclaré que ces résultats suggèrent que les grands modèles de langage pourraient refléter les restrictions de la parole imposées par certains gouvernements, ce qui soulève la crainte qu'un biais politique ne s'enracine dans des services d'IA utilisés par un nombre croissant de personnes.

L'étude a examiné 10 modèles d'IA dans plusieurs juridictions

Cette recherche constitue la première étude du Conseil de surveillance axée sur les grands modèles de langage.

Le conseil, financé par Meta mais opérant de manière indépendante, a testé des requêtes politiquement critiques dans 10 juridictions en utilisant 10 modèles d'IA.

Les modèles incluaient des systèmes développés par Meta Platforms, Google et la société chinoise DeepSeek, ainsi que des modèles d'autres sociétés d'IA de premier plan, dont Anthropic et OpenAI.

Pour réaliser l'analyse, le conseil a divisé les juridictions en deux catégories, « permissives » et « restrictives ».

Les classifications se fondaient sur les classements publiés par Freedom House dans son rapport annuel Freedom in the World.

Les modèles ont montré des taux de refus plus élevés pour les gouvernements restrictifs

Selon l'étude, les modèles d'IA ont refusé 34 % des demandes visant un contenu politiquement critique à l'encontre de juridictions restrictives qui sanctionnent activement de telles critiques, notamment la Chine et l'Arabie saoudite.

En comparaison, le taux de refus est tombé à 14 % pour les juridictions qui n'ont pas de telles lois ou ne les appliquent pas activement.

Le conseil a indiqué que ces résultats suggèrent que les systèmes d'IA peuvent être plus prudents lorsqu'ils répondent à des requêtes impliquant des gouvernements exerçant un contrôle plus strict sur le discours politique.

Le conseil signale des références inexpliquées à des règles inexistantes

Au-delà des taux de refus, le Conseil de surveillance a déclaré avoir identifié des exemples où les modèles d'IA semblaient justifier leurs réponses en faisant référence à des règles qui n'ont pas pu être vérifiées.

« Nous avons également constaté des cas où les modèles expliquaient qu'ils suivaient des règles explicites qui, d'après ce que nous avons pu vérifier, n'existaient pas et n'étaient pas appliquées de manière homogène », a déclaré le conseil.

Le conseil a indiqué que cela soulève des questions supplémentaires sur la façon dont les systèmes d'IA déterminent quand décliner des demandes politiquement sensibles et sur la cohérence d'application de ces décisions.

Le Conseil de surveillance appelle à une plus grande transparence

En réponse à ses conclusions, le Conseil de surveillance a exhorté les développeurs d'IA à mener des évaluations systématiques des droits de l'homme dans le cadre du développement et du déploiement de leurs modèles.

Il a également demandé aux entreprises d'IA de faire preuve de davantage de transparence concernant leurs méthodes d'entraînement et leurs processus d'évaluation, estimant qu'une plus grande ouverture aiderait les utilisateurs et les chercheurs à mieux comprendre la manière dont le contenu politiquement sensible est traité.

L'étude intervient au milieu de discussions plus larges sur la gouvernance des systèmes d'IA avancés.

Plus tôt cette semaine, le directeur général de Google DeepMind, Demis Hassabis, a appelé à la création d'un organisme de surveillance de l'IA piloté par les États-Unis pour examiner à l'échelle mondiale les modèles d'IA avancés avant leur déploiement.

Le rapport du Conseil de surveillance alimente le débat en cours sur l'équilibre entre la sécurité de l'IA, la neutralité politique et la transparence, en suggérant que la manière dont les modèles répondent aux sujets politiquement sensibles peut varier selon les gouvernements concernés et les environnements juridiques dans lesquels ces gouvernements opèrent.