Zuckerberg veut plus d'IA open-source : en quoi les modèles fermés diffèrent des ouverts

Le PDG de Meta, Mark Zuckerberg, a relancé son appel à réduire les barrières réglementaires autour de l'intelligence artificielle open-source, arguant que les États-Unis ont besoin d'un écosystème d'IA plus ouvert pour rivaliser efficacement avec des concurrents chinois très dynamiques.

Ces déclarations interviennent alors que Meta a dévoilé Muse Glimmer, un nouveau modèle d'IA open-weight conçu pour s'exécuter directement sur des appareils grand public plutôt que sur une coûteuse infrastructure cloud.

Zuckerberg a également indiqué que Meta entend publier davantage de modèles dans les mois à venir, renforçant ainsi sa stratégie de rendre l'IA plus largement accessible.

Ce lancement intervient alors que Meta tente de retrouver de l'élan dans la course à l'IA après avoir constitué l'an dernier une équipe dédiée à la superintelligence, tandis que les entreprises recherchent de plus en plus des alternatives d'IA moins coûteuses face à la flambée des coûts informatiques.

Dans le même temps, la discussion a mis en lumière une distinction importante souvent mal comprise — la différence entre les modèles d'IA fermés, les modèles open-weight et les systèmes d'IA véritablement open-source.

La Silicon Valley est depuis longtemps divisée sur la manière dont l'IA avancée doit être développée.

Certaines entreprises estiment que les modèles d'IA puissants doivent rester fermés pour des raisons de sécurité, tandis que d'autres considèrent que l'ouverture est essentielle à l'innovation et à la concurrence.

Comprendre ce débat exige d'abord d'examiner ce que sont les modèles fermés, puis les modèles open-weight, avant d'aborder enfin ce qui constitue une véritable IA open-source.

Que sont les modèles fermés ?

Les modèles d'intelligence artificielle apprennent en identifiant des motifs à travers d'énormes volumes d'informations numériques.

Lorsqu'ils s'entraînent sur des livres, des articles, des sites web et d'autres documents en ligne, ils convertissent ces motifs en milliards de valeurs numériques appelées "poids".

Ces poids déterminent en fin de compte la façon dont un modèle d'IA raisonne, répond aux sollicitations et génère du contenu.

Les systèmes d'IA avec lesquels la plupart des consommateurs interagissent aujourd'hui — ChatGPT d'OpenAI, Claude d'Anthropic et Gemini de Google — sont des exemples de modèles fermés.

Bien que les utilisateurs puissent accéder à ces systèmes via des sites web ou des interfaces de programmation (API), les entreprises qui les développent ne publient pas les poids sous-jacents qui alimentent les modèles.

Cela signifie que les développeurs ne peuvent pas les télécharger, les installer sur leurs propres ordinateurs, inspecter leur fonctionnement interne ou les personnaliser pour des applications spécifiques.

Anthropic et OpenAI ont soutenu que les systèmes d'IA de pointe doivent rester étroitement contrôlés car des modèles de plus en plus performants présentent des risques importants pour la sécurité et devraient être développés dans des environnements soigneusement gérés.

Meta, Nvidia, Microsoft et Google ont généralement adopté une position plus ouverte, arguant qu'un accès plus large favorise l'innovation et permet aux développeurs de créer de nouvelles entreprises autour de la technologie IA.

Pour autant, des chercheurs mettent en garde contre les risques propres aux modèles fermés.

Selon l'Institute for Human-Centered AI de l'université Stanford, les modèles fermés ne sont pas nécessairement moins sûrs que des alternatives ouvertes, mais ils concentrent un pouvoir énorme entre les mains d'un petit nombre d'entreprises.

Lorsque des capacités d'IA de pointe sont fournies via des API, ces entreprises décident qui obtient l'accès, à quel prix et quelles valeurs sont intégrées dans une technologie qui façonne de plus en plus la façon dont les gens travaillent, communiquent et créent.

Que sont les modèles open-weight ?

Les modèles open-weight occupent une position intermédiaire entre les systèmes entièrement fermés et l'IA complètement open-source.

Lorsque des développeurs qualifient un modèle d'IA d'open-weight, cela signifie que les poids entraînés du modèle ont été rendus publics.

Cela permet aux développeurs externes de télécharger le modèle, de l'exécuter localement et de l'affiner pour des usages spécifiques, tels que la santé, la cybersécurité ou le développement logiciel.

Si les poids restent privés, les utilisateurs doivent interagir avec l'IA exactement comme ses créateurs l'ont prévu.

Cependant, les modèles open-weight ne révèlent pas tout.

Les entreprises publient en général uniquement les paramètres entraînés tout en conservant le code d'entraînement original, les jeux de données, les détails d'architecture du modèle et une grande partie de la méthodologie utilisée pour construire le système.

En conséquence, les utilisateurs gagnent en flexibilité sans disposer d'une transparence complète.

Les modèles open-weight ont également tendance à être nettement moins coûteux que les systèmes d'IA de pointe proposés par des entreprises comme OpenAI et Anthropic, car ils peuvent souvent fonctionner localement sans ressources cloud onéreuses.

Bien que plusieurs entreprises américaines publient des modèles open-weight, beaucoup des systèmes les plus largement adoptés proviennent actuellement de Chine, notamment la famille Qwen d'Alibaba, les modèles de DeepSeek, la gamme Kimi de Moonshot AI et la série GLM de Zhipu AI.

Leur popularité a rapidement augmenté à mesure que les entreprises recherchent des coûts d'exploitation IA plus bas tout en conservant un contrôle plus important sur le déploiement.

Et enfin, que sont les modèles open-source ?

Les appels répétés de Zuckerberg en faveur de l'IA open-source ont également relancé le débat sur la question de savoir si les modèles dits « ouverts » d'aujourd'hui sont réellement open-source.

Il existe une distinction importante entre la publication d'un modèle d'IA avec des poids ouverts et sa publication en tant que logiciel entièrement open-source.

Les poids ouverts impliquent de publier uniquement les paramètres pré-entraînés qui déterminent le comportement du réseau neuronal.

Cela permet aux développeurs d'effectuer de l'inférence et d'affiner le modèle pour des applications en aval.

Cependant, des éléments cruciaux restent indisponibles, notamment le code d'entraînement, les jeux de données originaux, l'architecture du modèle et le processus utilisé pour entraîner le modèle.

Publier l'IA de cette manière élargit l'accès mais limite la transparence, la reproductibilité et la vérification indépendante.

Les développeurs utilisant des modèles open-weight doivent en fin de compte faire confiance aux jugements et aux représentations appris par les créateurs d'origine sans pouvoir les recréer ou les auditer complètement.

Un modèle d'IA véritablement open-source va beaucoup plus loin.

Il comprend tout ce qui est nécessaire pour reproduire le modèle à partir de zéro — le code source, l'architecture, la méthodologie d'entraînement, les hyperparamètres, les jeux de données et la documentation associée.

Ce niveau d'ouverture permet aux chercheurs non seulement d'exécuter le modèle, mais aussi de l'inspecter, de l'améliorer et de construire des systèmes entièrement nouveaux à partir de la même base.

« Il y a un large fossé entre l'IA à poids ouverts et l'IA open-source », a déclaré James Landay, directeur Denning de l'Institute for Human-Centered AI de Stanford.

« Les poids ouverts répondent à 'Puis-je l'exécuter ?' L'open source répond à 'Puis-je lui faire confiance, l'améliorer et construire la prochaine innovation par-dessus ?' À l'heure actuelle, presque tout le monde — laboratoires américains comme chinois — répond à la première question mais est loin de répondre à la seconde. »

La poussée de Meta en faveur de modèles open-source

Parallèlement à la publication du modèle, Zuckerberg a publié un essai de 14 pages exposant sa vision pour l'avenir de l'intelligence artificielle.

Dans le document, intitulé L'avenir est pour tous, il soutient que l'IA doit être considérée comme un outil au bénéfice large de la société plutôt que comme une technologie devant être strictement restreinte.

Il a également insisté sur le fait que les États-Unis doivent conserver leur leadership face à la Chine dans la course mondiale à l'IA.

Sans nommer des concurrents comme Anthropic et OpenAI, Zuckerberg a critiqué les approches plaidant pour des contrôles plus stricts sur les systèmes d'IA avancée.

Il a soutenu que concentrer la technologie entre les mains d'un petit nombre d'entreprises pourrait lui-même créer des risques.

« Plutôt que de centraliser la superintelligence, nous devrions la distribuer », a écrit Zuckerberg, 42 ans, dans l'essai. « Cela a le potentiel d'entamer une nouvelle ère d'autonomisation personnelle. »

L'entreprise a été parmi les premiers grands développeurs d'IA à publier publiquement un grand modèle de langage, LLaMA, en février 2023. Meta a publié à la fois le code d'inférence nécessaire pour exécuter le modèle et les poids appris pendant l'entraînement.

Cependant, des organisations telles que l'Open Source Initiative ont estimé que les restrictions de licence de LLaMA — en particulier celles régissant la réutilisation commerciale — l'empêchent de répondre à la définition acceptée d'un logiciel open-source véritable.

Au lieu de cela, de nombreux experts le classent comme un modèle open-weight.

Toutefois, beaucoup de développeurs estiment qu'une IA open-source véritable devrait inclure non seulement le code et les poids, mais aussi les jeux de données utilisés lors de l'entraînement, permettant une transparence complète sur la manière dont ces systèmes de plus en plus influents sont construits.