Pékin met en garde le personnel public contre les risques de l'agent IA OpenClaw

Les agences gouvernementales et les entreprises d'État chinoises ont commencé à mettre en garde leur personnel contre l'installation de l'agent d'intelligence artificielle OpenClaw sur les ordinateurs de travail, en raison de risques potentiels pour la sécurité.

Cette recommandation, comme selon Reuters, souligne la prudence au sein du secteur public chinois face aux outils d'IA autonomes émergents.

OpenClaw est un système open source capable d'exécuter de manière autonome des tâches numériques complexes avec une intervention humaine limitée.

L'outil a gagné du terrain auprès des développeurs chinois, des entreprises d'IA et de plusieurs autorités locales au cours du mois dernier.

Les régulateurs et les médias d'État ont averti qu'une fois installé et doté d'autorisations système, le logiciel pourrait divulguer, supprimer ou utiliser à mauvais escient des données sensibles stockées sur les appareils.

Ces mises en garde reflètent l'équilibre que Pékin tente de maintenir : promouvoir l'adoption de l'intelligence artificielle via sa stratégie nationale « AI plus » tout en se protégeant contre les risques cybernétiques et liés aux données.

Risques de sécurité des agents d'IA

Les inquiétudes portent sur la capacité d'OpenClaw à exécuter de manière autonome des actions sur un ordinateur une fois qu'il dispose des droits d'accès.

Contrairement aux chatbots d'IA conventionnels qui génèrent principalement du texte ou répondent à des questions, des agents d'IA comme OpenClaw peuvent exécuter des tâches automatiquement.

Cela peut inclure l'interaction avec des fichiers, le lancement de programmes ou la navigation sur des services en ligne sans supervision directe.

Selon le rapport, les régulateurs chinois ont indiqué que de telles capacités pourraient créer des vulnérabilités de sécurité si elles sont utilisées au sein des systèmes gouvernementaux ou d'entreprise.

Les responsables et les médias d'État ont averti que des agents d'IA disposant d'autorisations élevées peuvent exposer des informations confidentielles ou interférer avec des infrastructures numériques sensibles.

Le personnel des entités d'État a donc été invité à ne pas installer le logiciel sur les ordinateurs de travail.

Mises en garde aux agents publics

Selon le rapport, les régulateurs ont demandé aux employés de plusieurs entreprises d'État de ne pas déployer OpenClaw.

Dans certains cas, le personnel a également été déconseillé d'installer le logiciel sur des appareils personnels utilisés pour des activités professionnelles.

Une autre source citée par le rapport a indiqué qu'OpenClaw n'avait pas été formellement interdit au sein de leur organisation.

Toutefois, les employés ont été mis en garde sur les risques pour la sécurité et conseillés de ne pas l'installer.

Il reste incertain dans quelle mesure ces restrictions ont été appliquées à l'échelle des organes gouvernementaux et des entreprises d'État.

Le soutien des autorités locales se renforce

Malgré les avertissements des régulateurs, OpenClaw a été promu dans l'écosystème technologique chinois au cours du mois dernier.

Des développeurs, des entreprises d'IA et plusieurs autorités locales ont encouragé l'expérimentation avec le logiciel.

Certaines autorités régionales ont offert des subventions de plusieurs millions de dollars aux entreprises développant des applications basées sur OpenClaw.

Ces incitations s'inscrivent dans le cadre de la mise en œuvre locale du plan d'action plus large de Pékin « AI plus » visant à intégrer l'intelligence artificielle dans l'ensemble de l'économie.

La dynamique s'est étendue au secteur de la santé. La semaine dernière, un centre de recherche rattaché à la commission municipale de la santé de Shenzhen a organisé une session de formation axée sur OpenClaw.

Des milliers de personnes ont assisté à la session dans le cadre de l'effort de la ville pour accélérer l'adoption de l'IA dans les services médicaux.