Bank of England varnar: AI kan förstärka marknads- och cyberrisker

Bank of England har varnat för att artificiell intelligens framträder som ett växande hot mot finansiell stabilitet, med hänvisning till höjda marknadsförväntningar, ökande belåning och stigande cyberrisker kopplade till tekniken.

I sin halvårsvisa bedömning av riskerna för Storbritanniens finansiella system, som publicerades på tisdagen, sade centralbanken att tidigare oro över förhöjda aktievärderingar, hög offentlig skuld och riskfylld privat kreditgivning till företag kvarstod.

Den identifierade dock också nya risker som har blivit mer framträdande sedan dess föregående rapport.

BoE uppgav att detta inkluderar ökad upplåning från investerare, inklusive hedgefonder, för att köpa aktier, betydande skuldsättning som tagits på av AI-relaterade företag för att finansiera investeringar, samt den snabba expansionen av AIs potential att orsaka skada.

Trots att dessa risker lyfts fram sade centralbanken att Storbritanniens banksystem förblir motståndskraftigt.

Den beskrev också förslag avsedda att göra det lättare för banker att minska mängden kapital de håller efter en kris, så att de kan fortsätta stödja utlåning i hela ekonomin.

AI-förväntningar kan förstärka marknadsvolatilitet

Bank of England sade att den nuvarande marknadsoptimismen kring AI förutsätter att tekniken når bred lönsam adoption, stödd av framgångsrik infrastrukturutveckling och fortsatt tillgång till finansiering.

Enligt centralbanken skulle en försämring av dessa förväntningar kunna utlösa en bredare marknadsinstabilitet.

"En omprövning av dessa utsikter skulle kunna utlösa ett fall i aktiekurser som kan förstärkas av hög koncentration, korrelerade momentumdrivna positioner som kan förvärra volatiliteten när marknader faller, samt ökad belåning," sade BoE.

Rapporten tillade att den långsiktiga finansiella hållbarheten för AI-relaterade företag kommer att bero på deras framtida intjäningspotential.

"Överväganden kring den framtida intjäningspotentialen för AI-relaterade företag kommer också att vara relevanta för hållbarheten i dessa företags skulder," sade BoE.

Centralbanken noterade också att begränsad transparens kring hur AI-relaterade företag finansierar sig kan förvärra finansiell stress under perioder av marknadsstörningar.

Tillsynsmyndigheter fokuserar allt mer på AI-risker

BoE sade att tillsynsmyndigheter runt om i världen har trappat upp sitt fokus på riskerna kopplade till artificiell intelligens.

Dessa inkluderar cyber- och operativa risker kopplade till frontier-AI-modeller, samt utmaningar som skapas av alltmer kapabla, agentiska AI-system som kan agera med begränsad mänsklig inblandning.

Rapporten följer kommentarer från BoE:s viceguvernör Sarah Breeden i slutet av juni, då hon för första gången signalerade att skräddarsydd reglering för artificiell intelligens kan behövas för att tackla nya risker som avancerade autonoma system medför.

Cyber- och operativa risker förblir osäkra

I sin senaste bedömning sade Bank of England att det fortfarande är oklart huruvida framsteg inom AI i slutändan kommer att ge en större fördel åt cyberangripare eller stärka förmågan hos dem som försvarar finansiella system.

Centralbanken sade dock att den ökade användningen av AI sannolikt kommer att kräva att finansiella företag uppdaterar sin mjukvara oftare. Även om sådana uppdateringar kan förbättra säkerhet och funktionalitet, kan de också öka risken för operativa störningar.

Sammantaget sade BoE att även om Storbritanniens banksystem förblir motståndskraftigt, så motiverar kombinationen av förhöjda marknadsförväntningar på AI, växande belåning, cyberhot och operativa utmaningar nära övervakning i takt med att artificiell intelligens blir alltmer integrerad i det finansiella systemet.