Qu’est-ce que la superintelligence et pourquoi les géants de la technologie réclament-ils son interdiction ?

Plus de 800 personnalités de l’ensemble du spectre technologique, scientifique, politique et culturel ont signé une déclaration publique appelant à l’interdiction du développement de systèmes d’intelligence artificielle « superintelligents ».

La coalition, coordonnée par le Future of Life Institute et annoncée mercredi, comprend le cofondateur d’Apple, Steve Wozniak, le fondateur du groupe Virgin, Richard Branson, cinq lauréats du prix Nobel, les pionniers de l’IA Geoffrey Hinton et Yoshua Bengio, tous deux souvent appelés « parrains de l’IA ».

Il comprend également l’ancien président des chefs d’état-major interarmées des États-Unis, Mike Mullen, le conseiller du pape François en matière d’IA, Paolo Benanti, et même le prince Harry et Meghan, le duc et la duchesse de Sussex.

Le groupe politiquement diversifié reflète ce que les organisateurs décrivent comme une préoccupation universelle concernant les risques existentiels posés par les machines qui pourraient surpasser l’intelligence humaine.

Qu’est-ce que la superintelligence ?

La superintelligence, parfois appelée superintelligence artificielle ou ASI, fait référence à un type d’IA qui serait plus intelligent que les humains dans pratiquement tous les domaines qui comptent.

C’est très différent des outils d’IA d’aujourd’hui, tels que ChatGPT, qui entrent dans la catégorie de l'« IA étroite » car ils sont conçus pour effectuer des tâches spécifiques.

Même les systèmes les plus avancés dont nous disposons aujourd’hui, y compris les grands modèles de langage comme GPT-5, sont encore limités.

Ils peuvent écrire du code, rédiger des dissertations et même réussir des examens, mais ils ne pensent pas de manière indépendante, ne se fixent pas leurs propres objectifs ou ne comprennent pas le monde comme le font les humains.

En réalité, ils ne font que prédire des modèles basés sur des données d’entraînement, sans raisonner sur l’avenir ou prendre des décisions autonomes.

Certains chercheurs pensent que la prochaine étape est l’AGI, l’intelligence artificielle générale, qui correspondrait à l’intelligence humaine et apprendrait de nouvelles tâches par elle-même.

Mais la superintelligence irait bien au-delà.

En théorie, il pourrait surpasser les humains dans les domaines de la science, de la stratégie, de l’ingénierie, de la médecine, de tous les domaines cognitifs, et pourrait résoudre des problèmes qui sont actuellement bien hors de notre portée.

Ce bond exponentiel est exactement la raison pour laquelle le débat autour de ses risques est si intense.

Pourquoi les leaders de la technologie réclament-ils une interdiction ?

Ceux qui ont signé la pétition affirment que la course actuelle vers la superintelligence, menée par des entreprises comme OpenAI, Google et Meta, avance beaucoup plus vite que ce que les gouvernements ou les régulateurs peuvent suivre.

Même les initiés tirent la sonnette d’alarme : Sam Altman a déclaré qu’il serait surpris si la superintelligence n’était pas là d’ici 2030, et Meta est allé jusqu’à renommer une partie de sa division IA « Meta Superintelligence Labs », rendant ses ambitions claires comme de l’eau de roche.

La pétition décrit la superintelligence comme un risque à l’échelle des pandémies ou des armes nucléaires.

Ce cadre n’est pas nouveau, car il fait écho à une déclaration de 2023 des dirigeants de l’IA exhortant les dirigeants mondiaux à traiter le risque d’extinction de l’IA comme une priorité mondiale absolue.

Les partisans de l’interdiction disent que les enjeux sont existentiels.

Si les systèmes superintelligents sont construits sans règles de sécurité strictes, les humains pourraient perdre le contrôle de systèmes critiques, subir des déplacements économiques massifs ou faire face à des résultats bien pires.

Stuart Russell, le chercheur en sécurité de l’IA de l’UC Berkeley qui a signé la pétition, a souligné qu’il ne s’agissait pas d’une interdiction générale, mais plutôt d’une demande que des protocoles de sécurité soient mis en place pour une technologie qui, selon ses propres créateurs, pourrait vraisemblablement mettre fin à l’humanité.

Cette pétition est la dernière d’une vague croissante de tentatives coordonnées visant à ralentir la ruée vers une IA toujours plus puissante.