Les banques allemandes évaluent les risques du modèle d'IA Mythos d'Anthropic

Les banques allemandes et les autorités nationales évaluent les risques potentiels liés à un nouveau modèle d'intelligence artificielle développé par Anthropic, a déclaré un responsable jeudi.

Les préoccupations portent sur la possibilité que la technologie augmente la menace de cyberattaques ciblant les institutions financières.

Kolja Gabriel, membre du conseil exécutif de l'Association bancaire allemande, a déclaré que le groupe consulte activement des experts en cybersécurité au sein de ses banques membres.

Il a ajouté que des discussions ont également lieu avec le ministère des Finances allemand et d'autres autorités, selon Reuters.

Coordination avec les régulateurs et les autorités

Les discussions en cours incluent la participation de la Bundesbank et du régulateur financier allemand BaFin.

BaFin a confirmé qu'il entretient des échanges réguliers avec des acteurs nationaux, européens et internationaux.

Le régulateur a insisté sur la nécessité d'une préparation au sein du secteur financier.

Mythos suscite des inquiétudes chez les experts en cybersécurité

Le modèle d'Anthropic, connu sous le nom de Mythos, a attiré l'attention des experts en cybersécurité qui estiment qu'il pose des défis importants pour les banques, en particulier celles qui dépendent de systèmes technologiques hérités.

Ces préoccupations ont également suscité l'intérêt des régulateurs au Royaume-Uni et aux États-Unis.

« Mythos est utilisé de manière contrôlée par des sociétés de sécurité informatique pour colmater les vulnérabilités potentielles aussi rapidement que possible.

Nous prévoyons une série de mises à jour logicielles prochainement et suivons de près l'évolution », a déclaré Gabriel dans un communiqué envoyé par e‑mail.

Il est responsable de la technologie et de l'innovation au sein de l'association.

Les superviseurs de la Banque centrale européenne se préparent à interroger les banquiers sur les risques liés au modèle.

Déploiement limité et évaluations par le secteur

Anthropic a indiqué que sa version actuelle, Claude Mythos Preview, ne sera pas mise à disposition du grand public.

Au lieu de cela, la société a lancé une initiative appelée Project Glasswing.

Le programme invite de grandes entreprises technologiques, des fournisseurs de cybersécurité et des organisations, dont JPMorgan Chase, à évaluer le modèle en privé et à renforcer leurs défenses.

Ce déploiement contrôlé reflète une prudence plus large au sein de l'industrie alors que les parties prenantes cherchent à comprendre les implications des systèmes d'IA avancés.

L'influence croissante d'Anthropic dans le paysage de l'IA

L'examen intervient alors qu'Anthropic gagne en importance sur la scène mondiale de l'intelligence artificielle.

La société s'est imposée comme un acteur majeur après une levée de fonds importante qui l'a valorisée à $380 billion.

Selon Dave Kasten de Palisade Research, Anthropic a consolidé une position solide en se concentrant sur la sécurité et la fiabilité.

Il a souligné que l'approche de la société en matière d'« intégrité constitutionnelle » a créé un avantage structurel par rapport à ses concurrents.

Kasten a mis en avant la capacité du modèle à détecter des vulnérabilités grâce à un raisonnement avancé, plutôt que de se fonder uniquement sur des motifs historiques.

Il a cité un exemple où le système a identifié une faille jusque-là non détectée dans une implémentation de FreeBSD, démontrant son potentiel pour une cybersécurité proactive.

Importance stratégique et tensions politiques

Malgré les inquiétudes, l'intérêt pour Mythos dépasse l'Europe.

Un article de Politico indiquait que des agences américaines et des responsables du Congrès continuent de s'intéresser aux capacités du modèle, même après que des restrictions aient été imposées pour travailler avec Anthropic.

Le rapport indique que le Center for AI Standards and Innovation du département du Commerce teste les fonctionnalités de cybersécurité de Mythos.

Des membres du personnel de plusieurs commissions du Congrès ont également demandé des séances d'information sur le modèle.

La situation met en lumière une tension plus large.

Alors que le Pentagone a qualifié Anthropic de risque pour la chaîne d'approvisionnement et a rompu ses relations commerciales, certaines parties du gouvernement américain semblent réticentes à ignorer une technologie perçue comme stratégiquement importante.

L'ampleur de cet engagement reste floue.

Cependant, cet intérêt soutenu suggère que des outils d'IA avancés comme Mythos deviennent de plus en plus centraux pour les enjeux de cybersécurité et de sécurité nationale, même dans un contexte de prudence réglementaire.