Saksalaispankit arvioivat Anthropicin tekoälymallin riskejä kyberturvahuolien keskellä

Saksalaispankit ja kansalliset viranomaiset arvioivat mahdollisia riskejä, jotka liittyvät Anthropicin kehittämään uuteen tekoälymalliin, kertoi viranomainen torstaina.

Huolenaiheet liittyvät siihen, voisiko teknologia lisätä rahoituslaitoksia kohdistuvien kyberhyökkäysten uhkaa.

Kolja Gabriel, Saksan Pankkiyhdistyksen johtokunnan jäsen, sanoi, että yhdistys konsultoi aktiivisesti kyberturva-asiantuntijoita jäsenpankeissaan.

Hän lisäsi, että keskusteluja käydään myös Saksan valtiovarainministeriön ja muiden viranomaisten kanssa, Reutersin mukaan.

Koordinointi sääntelijöiden ja viranomaisten kanssa

Käynnissä oleviin neuvotteluihin osallistuvat Bundesbank ja Saksan rahoitusvalvoja BaFin.

BaFin vahvisti, että se ylläpitää säännöllisiä yhteyksiä kansallisten, eurooppalaisten ja kansainvälisten sidosryhmien kanssa.

Valvoja korosti tarpeen varautua finanssisektorissa.

Mythos herättää huolta kyberturva-asiantuntijoissa

Anthropicin tunnettu malli, Mythos, on herättänyt kyberturva-asiantuntijoiden huomion, jotka katsovat sen muodostavan merkittäviä haasteita pankeille, erityisesti niille, jotka luottavat vanhoihin teknologiajärjestelmiin.

Nämä huolenaiheet ovat myös lisänneet sääntelyn kiinnostusta Britanniassa ja Yhdysvalloissa.

”Mythosia käyttävät IT-turvayhtiöt hallitulla tavalla mahdollisten haavoittuvuuksien korjaamiseksi mahdollisimman nopeasti.

Odotamme sarjaa ohjelmistopäivityksiä lähiaikoina ja seuraamme kehitystä tiiviisti,” Gabriel sanoi sähköpostitse lähetetyssä lausunnossa.

Hän vastaa yhdistyksessä teknologiasta ja innovaatioista.

Europan keskuspankin valvojat valmistautuvat myös kuulemaan pankkiväkeä malliin liittyvistä riskeistä.

Rajoitettu käyttöönotto ja alan testaus

Anthropic on todennut, että sen nykyinen versio, Claude Mythos Preview, ei tule julkiseen yleiskäyttöön.

Sen sijaan yhtiö on käynnistänyt aloitteen nimeltä Project Glasswing.

Ohjelma kutsuu suuria teknologiayrityksiä, kyberturvatoimittajia ja organisaatioita, mukaan lukien JPMorgan Chase, arvioimaan mallia yksityisesti ja vahvistamaan puolustuksia.

Tämä hallittu käyttöönotto heijastaa alan laajempaa varovaisuutta, kun sidosryhmät pyrkivät ymmärtämään kehittyneiden tekoälyjärjestelmien vaikutuksia.

Anthropicin kasvava vaikutusvalta tekoälykentässä

Kiinnostus kohdistuu aikaan, jolloin Anthropic nostaa profiiliaan globaalissa tekoälysektorissa.

Yritys on noussut merkittäväksi toimijaksi suuren rahoituskierroksen jälkeen, joka arvioi sen arvoksi $380 billion.

Dave Kasten Palisade Researchilta totesi, että Anthropic on rakentanut vahvan aseman keskittymällä turvallisuuteen ja luotettavuuteen.

Hän totesi, että yhtiön lähestymistapa ”perustuslailliseen eheyteen” on luonut rakenteellisen edun kilpailijoihin nähden.

Kasten korosti mallin kykyä havaita haavoittuvuuksia edistyneen päättelyn avulla sen sijaan, että se perustuisi pelkästään historialisiin malleihin.

Hän mainitsi esimerkin, jossa järjestelmä tunnisti aiemmin havaitsemattoman virheen FreeBSD:n toteutuksessa, mikä osoittaa sen potentiaalin proaktiivisessa kyberturvassa.

Strateginen merkitys ja politiikan jännitteet

Huolista huolimatta kiinnostus Mythosiin ulottuu Euroopan ulkopuolelle.

Politico-raportin mukaan Yhdysvaltain virastot ja kongressin toimijat jatkavat mallin kyvykkyyksien selvittämistä, vaikka yhteistyötä Anthropicin kanssa on rajoitettu.

Raportin mukaan kauppaministeriön Center for AI Standards and Innovation testaa Mythosin kyberturvaominaisuuksia.

Useiden kongressin valiokuntien henkilöstö on myös pyytänyt briiffauksia mallista.

Tilanne korostaa laajempaa jännitettä.

Vaikka Pentagon on nimennyt Anthropicin toimitusketjuriskiksi ja katkaissut liiketoimiyhteyksiä, osia Yhdysvaltain hallinnosta näyttää vaikealta sivuuttaa teknologiaa, jota pidetään strategisesti tärkeänä.

Sen laajuus on vielä epäselvä.

Kuitenkin jatkunut kiinnostus viittaa siihen, että kehittyneet tekoälyvälineet kuten Mythos nousevat yhä keskeisemmiksi kyberturvan ja kansallisen turvallisuuden näkökulmissa, vaikka sääntely suhtautuukin varovaisesti.