Por qué la IA Mythos de Anthropic pone en alerta a reguladores y bancos centrales

Los reguladores financieros de las principales economías están intensificando el escrutinio sobre un potente modelo de inteligencia artificial desarrollado por Anthropic, en medio de crecientes preocupaciones de que sus capacidades avanzadas podrían revelar vulnerabilidades en sistemas financieros y digitales críticos.

Las autoridades en Japón, Europa, India y otras regiones están coordinando respuestas, ya que el modelo, conocido como Mythos, plantea nuevas preguntas sobre los riesgos de ciberseguridad en un mundo cada vez más impulsado por la IA.

Japón convoca a los principales bancos y reguladores

En Japón, la Financial Services Agency dijo el miércoles que celebrará una reunión de alto nivel el viernes con los mayores grupos bancarios del país, incluidos Mitsubishi UFJ Financial Group, Sumitomo Mitsui Financial Group y Mizuho Financial Group.

La reunión también incluirá al Banco de Japón y a la Bolsa de Tokio, lo que refleja la amplitud de la preocupación en todo el sistema financiero.

Satsuki Katayama dijo que el objetivo era reunir a las partes interesadas clave para evaluar la situación en evolución.

"Reuniremos a los miembros centrales que asumen la mayor responsabilidad para compartir evaluaciones de la situación actual e intercambiar puntos de vista, incluidas cuestiones que han sido señaladas en diversas partes de la comunidad financiera internacional", dijo.

Bancos centrales de todo el mundo en alerta

Los reguladores en otras regiones están tomando medidas similares.

El Reserve Bank of Australia dijo el miércoles que estaba observando de cerca los desarrollos y "estableciendo contactos con reguladores homólogos, el gobierno y las entidades reguladas".

Mientras tanto, el Reserve Bank of New Zealand describió el miércoles los riesgos como "en desarrollo" y confirmó que estaba coordinando con sus homólogos nacionales y australianos.

India también se ha sumado al esfuerzo global.

Según un informe de Reuters, el Reserve Bank of India está en conversaciones con reguladores internacionales, prestamistas y funcionarios gubernamentales para evaluar amenazas potenciales.

Evaluaciones preliminares sugieren que el modelo podría acelerar el descubrimiento y la explotación de vulnerabilidades de software, lo que eleva las preocupaciones sobre la ciberseguridad.

El asunto ha llegado a los niveles más altos de la elaboración de políticas a nivel mundial.

El ministro de Finanzas canadiense, François-Philippe Champagne, dijo a la BBC que el modelo se había discutido en una reciente reunión del Fondo Monetario Internacional en Washington.

"Ciertamente es lo suficientemente serio como para merecer la atención de todos los ministros de Finanzas", dijo, describiendo la tecnología como un "unknown unknown".

De forma similar, el gobernador del Bank of England, Andrew Bailey, advirtió que las autoridades están evaluando detenidamente las implicaciones.

"Ahora tenemos que examinar muy detenidamente qué podría significar este último desarrollo en IA para el riesgo de ciberdelincuencia", dijo a la BBC.

Un arma de doble filo para la ciberseguridad

Aunque Mythos se diseñó para aplicaciones defensivas de ciberseguridad, sus capacidades han generado alarma.

Anthropic afirmó que las pruebas iniciales revelaron "miles" de vulnerabilidades significativas en los principales sistemas operativos y navegadores web.

El martes, el presidente del Bundesbank, Joachim Nagel, describió el modelo como un "arma de doble filo".

"Podría usarse no solo para mejorar los sistemas de seguridad digital, sino también para aprovechar sus vulnerabilidades con fines maliciosos."

Los expertos dicen que la preocupación radica en la velocidad y la escala con que un sistema de IA así puede identificar y explotar debilidades, superando con creces las respuestas de seguridad tradicionales.

¿Por qué Anthropic ha restringido el acceso al modelo?

Anthropic ha restringido el acceso al modelo mediante una iniciativa controlada llamada Project Glasswing.

A un número selecto de organizaciones, entre ellas Amazon, Microsoft, Nvidia y Apple, se les ha concedido acceso temprano, junto con decenas de entidades responsables del mantenimiento de infraestructuras digitales críticas.

En un vídeo de lanzamiento, Dario Amodei dijo que la empresa se había ofrecido a colaborar con las autoridades estadounidenses para "ayudar a defenderse contra el riesgo de estos modelos".

Las pruebas realizadas por investigadores independientes, incluidos los llamados "red teams", han puesto de relieve las capacidades avanzadas del modelo.

Según Anthropic, Mythos puede identificar de forma autónoma errores críticos en sistemas heredados e incluso sugerir métodos para explotarlos.

"Mythos Preview ya ha encontrado miles de vulnerabilidades de alta gravedad, incluidas algunas en cada sistema operativo y navegador web importante", dijo la compañía.

"Dado el ritmo del progreso de la IA, no pasará mucho tiempo antes de que tales capacidades se generalicen, potencialmente más allá de los actores comprometidos con desplegarlas de manera segura."

Riesgos más altos en sistemas heredados

La amenaza potencial es particularmente aguda en sectores que dependen de infraestructuras complejas y envejecidas.

Un informe de Bain & Company señaló que industrias como la energética, la manufacturera y la del transporte podrían enfrentar riesgos aumentados debido a sistemas desactualizados que son difíciles de parchear.

Los bancos también son vulnerables debido a su dependencia de sistemas interconectados, algunos de los cuales datan de hace décadas.

Sin embargo, el informe subrayó que los riesgos son gestionables con prácticas sólidas de ciberseguridad.

"La amenaza es seria, pero no insuperable, y unas sólidas bases de ciberseguridad son la mejor defensa", dijo, añadiendo que las salvaguardas existentes como la segmentación de redes, los controles de acceso y la detección de anomalías pueden ofrecer una protección significativa.

El enfoque se centra en la preparación en lugar del pánico

En lugar de precipitarse a desarrollar defensas específicas de IA completamente nuevas, los expertos argumentan que las organizaciones deberían priorizar el fortalecimiento de los marcos de seguridad existentes.

Las recomendaciones incluyen crear equipos dedicados a la respuesta ante amenazas de IA, mejorar las medidas básicas de ciberseguridad y abordar las vulnerabilidades en entornos de tecnología operacional (OT).

A medida que se amplía el acceso a sistemas de IA potentes, tanto reguladores como empresas se enfrentan a un equilibrio: aprovechar los beneficios de la innovación mientras se protegen contra consecuencias no deseadas.

La rápida respuesta global a Mythos sugiere que los responsables políticos son muy conscientes de lo que está en juego.

Si estos primeros esfuerzos serán suficientes para mitigar los riesgos planteados por la IA de próxima generación sigue siendo una pregunta abierta.