Banche tedesche valutano i rischi del modello AI Mythos di Anthropic

Le banche tedesche e le autorità nazionali stanno valutando i potenziali rischi legati a un nuovo modello di intelligenza artificiale sviluppato da Anthropic, ha dichiarato un funzionario giovedì.

Le preoccupazioni riguardano se la tecnologia possa aumentare la minaccia di attacchi informatici diretti verso le istituzioni finanziarie.

Kolja Gabriel, membro del consiglio esecutivo dell'Associazione bancaria tedesca, ha detto che il gruppo sta consultando attivamente esperti di sicurezza informatica tra le banche associate.

Ha aggiunto che si stanno svolgendo anche discussioni con il ministero delle finanze tedesco e altre autorità, secondo Reuters.

Coordinamento con regolatori e autorità

Alle discussioni in corso partecipano la Bundesbank e l'autorità di vigilanza finanziaria tedesca BaFin.

BaFin ha confermato di mantenere scambi regolari con interlocutori nazionali, europei e internazionali.

Il regolatore ha sottolineato la necessità di preparazione nel settore finanziario.

Mythos suscita preoccupazioni tra gli esperti di cybersecurity

Il modello di Anthropic, noto come Mythos, ha attirato l'attenzione degli esperti di sicurezza informatica, che ritengono possa rappresentare sfide significative per le banche, in particolare per quelle che si basano su sistemi legacy.

Queste preoccupazioni hanno inoltre stimolato l'interesse dei regolatori in Gran Bretagna e negli Stati Uniti.

“Mythos viene impiegato in modo controllato da società di sicurezza IT per chiudere potenziali vulnerabilità il più rapidamente possibile.

Ci aspettiamo una serie di aggiornamenti software a breve e stiamo monitorando da vicino gli sviluppi”, ha detto Gabriel in una dichiarazione via email.

È responsabile della tecnologia e dell'innovazione presso l'associazione.

I supervisori della Banca centrale europea si stanno preparando a interrogare i banchieri sui rischi legati al modello.

Distribuzione limitata e test del settore

Anthropic ha dichiarato che la sua versione attuale, Claude Mythos Preview, non sarà resa disponibile per uso generale.

Invece, la società ha lanciato un'iniziativa chiamata Project Glasswing.

Il programma invita grandi aziende tecnologiche, fornitori di cybersecurity e organizzazioni, tra cui JPMorgan Chase, a valutare privatamente il modello e rafforzare le difese.

Questa diffusione controllata riflette una cautela più ampia del settore mentre gli stakeholder cercano di comprendere le implicazioni dei sistemi avanzati di IA.

L'influenza crescente di Anthropic nel panorama AI

Lo scrutinio arriva in un momento in cui Anthropic sta guadagnando rilevanza nel settore globale dell'intelligenza artificiale.

L'azienda è emersa come protagonista dopo un importante round di finanziamento che l'ha valutata $380 billion.

Secondo Dave Kasten di Palisade Research, Anthropic ha consolidato una posizione forte concentrandosi sulla sicurezza e l'affidabilità.

Ha osservato che l'approccio dell'azienda all'integrità costituzionale ha creato un vantaggio strutturale rispetto ai concorrenti.

Kasten ha evidenziato la capacità del modello di individuare vulnerabilità attraverso un ragionamento avanzato, invece di basarsi esclusivamente su schemi storici.

Ha citato un esempio in cui il sistema ha identificato un difetto precedentemente non rilevato in un'implementazione di FreeBSD, dimostrando il suo potenziale per la cybersecurity proattiva.

Importanza strategica e tensioni di policy

Nonostante le preoccupazioni, l'interesse per Mythos si estende oltre l'Europa.

Un rapporto di Politico ha indicato che agenzie statunitensi e funzionari del Congresso continuano a interagire con le capacità del modello, nonostante siano state imposte restrizioni sui rapporti con Anthropic.

Il rapporto afferma che il Center for AI Standards and Innovation del Commerce Department sta testando le funzionalità di cybersecurity di Mythos.

Personale di più commissioni del Congresso ha inoltre richiesto briefing sul modello.

La situazione mette in evidenza una tensione più ampia.

Mentre il Pentagono ha etichettato Anthropic come rischio per la catena di approvvigionamento e ha interrotto rapporti commerciali, parti del governo USA sembrano riluttanti a ignorare una tecnologia considerata strategicamente importante.

Non è chiaro l'entità di questo coinvolgimento.

Tuttavia, l'interesse continuo suggerisce che strumenti avanzati di IA come Mythos stanno diventando sempre più centrali nelle considerazioni sulla cybersecurity e sulla sicurezza nazionale, anche in presenza di prudenza regolamentare.