Proč AI Mythos od Anthropic znepokojuje regulátory a centrální banky

Finanční regulátoři v hlavních ekonomikách zpřísňují dohled nad mocným novým modelem umělé inteligence vyvinutým společností Anthropic, vzhledem k rostoucím obavám, že jeho pokročilé schopnosti by mohly odhalit zranitelnosti v klíčových finančních a digitálních systémech.

Úřady v Japonsku, Evropě, Indii a dalších regionech koordinují reakce, protože model nazvaný Mythos vyvolává nové otázky ohledně kybernetických rizik ve světě čím dál více řízeném AI.

Japonsko svolává přední banky a regulátory

V Japonsku Financial Services Agency ve středu uvedla, že v pátek uspořádá setkání na vysoké úrovni s největšími bankovními skupinami v zemi, včetně Mitsubishi UFJ Financial Group, Sumitomo Mitsui Financial Group a Mizuho Financial Group.

Setkání se rovněž zúčastní Bank of Japan a Tokyo Stock Exchange, což odráží rozsah obav napříč finančním systémem.

Satsuki Katayama uvedla, že cílem je shromáždit klíčové zainteresované strany k posouzení vyvíjející se situace.

"Sjednáme dohromady hlavní členy, kteří nesou největší odpovědnost, abychom sdíleli hodnocení současné situace a vyměnili si názory, včetně otázek, které byly upozorněny v různých částech mezinárodního finančního společenství," řekla.

Centrální banky globálně v pohotovosti

Regulátoři v jiných regionech podnikají podobné kroky.

Reserve Bank of Australia ve středu uvedla, že pečlivě sleduje vývoj a "engaging with peer regulators, government and regulated entities."

Mezitím Reserve Bank of New Zealand ve středu označila rizika za „vyvíjející se“ a potvrdila, že koordinuje s domácími a australskými protějšky.

Indie se také připojila k celosvětovému úsilí.

Podle zprávy Reuters je Reserve Bank of India v jednání s mezinárodními regulátory, bankami a vládními činiteli, aby vyhodnotila potenciální hrozby.

Předběžná hodnocení naznačují, že model by mohl urychlit objevování a zneužívání softwarových zranitelností, což zvyšuje obavy o kybernetickou bezpečnost.

Záležitost se dostala na nejvyšší úroveň globálního rozhodování.

Kanadský ministr financí François-Philippe Champagne řekl BBC, že model byl projednáván na nedávném zasedání Mezinárodního měnového fondu ve Washingtonu.

"Určitě je to natolik vážné, aby to vyžadovalo pozornost všech ministrů financí," řekl a technologii popsal jako "unknown unknown".

Podobně šéf Bank of England Andrew Bailey varoval, že úřady pečlivě hodnotí dopady.

“We are having to look very carefully now at what this latest AI development could mean for the risk of cyber crime,” he told the BBC.

Dvojsečný meč pro kybernetickou bezpečnost

Ačkoli byl Mythos navržen pro obranné aplikace v oblasti kybernetické bezpečnosti, jeho schopnosti vyvolaly poplach.

Anthropic uvedl, že počáteční testování odhalilo „tisíce" významných zranitelností v hlavních operačních systémech a webových prohlížečích.

V úterý předseda Bundesbank Joachim Nagel popsal model jako „dvojsečný meč."

"Mohl by být použit nejen ke zlepšení digitálních bezpečnostních systémů, ale také k využití jejich zranitelných míst pro škodlivé účely."

Odborníci tvrdí, že obavy spočívají v rychlosti a rozsahu, v jakém takový AI systém může identifikovat a zneužít slabiny—mnohem rychleji než tradiční bezpečnostní reakce.

Proč Anthropic omezil přístup k modelu?

Anthropic omezil přístup k modelu prostřednictvím kontrolované iniciativy nazvané Project Glasswing.

Vybrané organizace, včetně Amazonu, Microsoftu, Nvidie a Apple, získaly předběžný přístup spolu s desítkami subjektů odpovědných za údržbu kritické digitální infrastruktury.

Ve startovacím videu Dario Amodei uvedl, že společnost nabídla spolupráci s americkými úřady, aby "pomohla bránit se proti riziku těchto modelů."

Testování nezávislými výzkumníky, včetně tzv. „red teams", ukázalo pokročilé schopnosti modelu.

Podle Anthropic může Mythos autonomně identifikovat kritické chyby v zastaralých systémech a dokonce navrhovat způsoby jejich zneužití.

"Mythos Preview již nalezl tisíce zranitelností vysoké závažnosti, včetně některých v každém hlavním operačním systému a webovém prohlížeči," uvedla společnost.

"S ohledem na tempo pokroku AI nebude trvat dlouho, než se takové schopnosti rozšíří, potenciálně i do rukou aktérů, kteří nejsou odhodláni je nasazovat bezpečně."

Rizika nejvyšší v zastaralých systémech

Potenciální hrozba je zvláště akutní v odvětvích, která závisí na složité a zastaralé infrastruktuře.

Zpráva Bain & Company poznamenala, že odvětví jako energetika, výroba a doprava by mohla čelit zvýšeným rizikům kvůli zastaralým systémům, které se obtížně opravují.

I banky jsou zranitelné vzhledem k jejich závislosti na propojených systémech, z nichž některé sahají i desetiletí zpět.

Zpráva však zdůraznila, že rizika jsou zvládnutelná s pevnými postupy kybernetické bezpečnosti.

"Hrozba je vážná, ale nepřekonatelná, a pevné základy kybernetické bezpečnosti jsou vaší nejlepší obranou," uvádí se ve zprávě, která dále dodala, že stávající opatření jako segmentace sítí, řízení přístupu a detekce anomálií mohou poskytnout významnou ochranu.

Pozornost se přesouvá k připravenosti místo paniky

Místo spěchu k vývoji zcela nových obran specifických pro AI odborníci tvrdí, že organizace by měly upřednostnit posilování stávajících bezpečnostních rámců.

Doporučení zahrnují vytvoření specializovaných týmů pro reakci na hrozby AI, zlepšení základních opatření kybernetické bezpečnosti a řešení zranitelností v prostředích operačních technologií.

Jak se rozšiřuje přístup k výkonným AI systémům, regulátoři i společnosti čelí vyvažování—využívání výhod inovací při současném zajišťování ochrany před nežádoucími důsledky.

Rychlá globální reakce na Mythos naznačuje, že tvůrci politik si jsou vědomi závažnosti situace.

Zda budou tyto počáteční kroky dostatečné k zmírnění rizik, která představuje AI další generace, zůstává otevřenou otázkou.