Băncile germane evaluează riscurile modelului AI Mythos pe fondul temerilor cibernetice

Băncile germane și autoritățile naționale evaluează riscurile potențiale legate de un nou model de inteligență artificială dezvoltat de Anthropic, a declarat un oficial joi.

Îngrijorările se concentrează pe posibilitatea ca tehnologia să crească amenințarea atacurilor cibernetice îndreptate împotriva instituțiilor financiare.

Kolja Gabriel, membru al consiliului executiv al Asociației Băncilor Germane, a declarat că organizația consultă activ experți în securitate cibernetică din rândul băncilor membre.

A adăugat că au loc discuții și cu Ministerul Finanțelor din Germania și cu alte autorități, potrivit Reuters.

Coordonare cu autoritățile de reglementare

Discuțiile în curs includ participarea Bundesbank și a autorității germane de supraveghere financiară, BaFin.

BaFin a confirmat că întreține schimburi regulate cu părțile interesate naționale, europene și internaționale.

Reglementatorul a subliniat necesitatea pregătirii în sectorul financiar.

Mythos stârnește îngrijorări în rândul experților în securitate cibernetică

Modelul Anthropic, cunoscut ca Mythos, a atras atenția experților în securitate cibernetică, care consideră că el prezintă provocări semnificative pentru bănci, în special pentru cele care se bazează pe sisteme tehnologice învechite.

Aceste îngrijorări au stârnit, de asemenea, interes din partea autorităților de reglementare din Marea Britanie și Statele Unite.

„Mythos este folosit într-un mod controlat de firmele de securitate IT pentru a închide cât mai rapid vulnerabilitățile potențiale.

„Așteptăm o serie de actualizări software în scurt timp și monitorizăm îndeaproape evoluțiile”, a spus Gabriel într-un comunicat trimis prin e-mail.

El este responsabil cu tehnologia și inovația în cadrul asociației.

Supraveghetorii de la Banca Centrală Europeană se pregătesc să interogheze bancherii despre riscurile legate de model.

Implementare limitată și testare în industrie

Anthropic a declarat că versiunea sa actuală, Claude Mythos Preview, nu va fi lansată pentru uz general.

În schimb, compania a lansat o inițiativă numită Project Glasswing.

Programul invită mari companii tehnologice, furnizori de securitate cibernetică și organizații, inclusiv JPMorgan Chase, să evalueze privat modelul și să întărească apărarea.

Această implementare controlată reflectă o prudență mai largă în industrie, pe măsură ce părțile interesate încearcă să înțeleagă implicațiile sistemelor avansate de inteligență artificială.

Influența în creștere a Anthropic în sectorul inteligenței artificiale

Analiza vine într-un moment în care Anthropic câștigă proeminență în sectorul global al inteligenței artificiale.

Compania a devenit un jucător major după o rundă semnificativă de finanțare care a evaluat-o la $380 billion.

Potrivit lui Dave Kasten de la Palisade Research, Anthropic și-a consolidat poziția concentrându-se pe securitate și fiabilitate.

A menționat că abordarea companiei privind „integritatea constituțională” a creat un avantaj structural față de concurenți.

Kasten a evidențiat capacitatea modelului de a detecta vulnerabilități prin raționament avansat, în loc să se bazeze exclusiv pe tipare istorice.

El a dat exemplul unui caz în care sistemul a identificat un defect anterior nedetectat într-o implementare FreeBSD, demonstrându-i potențialul pentru securitate cibernetică proactivă.

Importanță strategică și tensiuni politice

În ciuda îngrijorărilor, interesul pentru Mythos se extinde dincolo de Europa.

Un raport Politico a indicat că agențiile americane și oficialii din Congres continuă să se angajeze cu capabilitățile modelului, chiar și după ce au fost impuse restricții privind colaborarea cu Anthropic.

Raportul spunea că Centrul pentru Standarde și Inovație în AI al Departamentului Comerțului testează funcțiile de securitate cibernetică ale Mythos.

Personalul din mai multe comitete ale congresului a solicitat, de asemenea, informări despre model.

Situația evidențiază o tensiune mai largă.

În timp ce Pentagonul a etichetat Anthropic drept un risc pentru lanțul de aprovizionare și a întrerupt legăturile comerciale, părți ale guvernului SUA par reticente în a ignora o tehnologie considerată strategic importantă.

Măsura acestui angajament rămâne neclară.

Cu toate acestea, interesul continuu sugerează că instrumentele avansate de inteligență artificială precum Mythos devin tot mai centrale pentru considerațiile privind securitatea cibernetică și securitatea națională, chiar și în contextul prudenței reglementare.