USA, Storbritannien och EU undertecknar det första internationella AI-fördraget för ansvarsfull utveckling

Europeiska unionen, USA och Storbritannien har undertecknat världens första juridiskt bindande internationella fördrag om artificiell intelligens (AI) och relaterade system, känd som AI-konventionen.

Fördraget antogs i maj efter år av förhandlingar mellan 57 länder och syftar till att ta itu med riskerna med AI och samtidigt främja ansvarsfull innovation.

Vissa experter hävdar att fördragets breda språkbruk och varningar kan undergräva dess effektivitet.

Även om denna utveckling markerar en betydande milstolpe i globala ansträngningar för att reglera AI, kvarstår frågor om dess praktiska inverkan och tillämpning.

AI-fördrag antagits av 57 länder

AI-konventionen, den första i sitt slag, fokuserar på att skydda mänskliga rättigheter för dem som berörs av AI-system.

Detta avtal är skilt från EU:s AI-lag, som trädde i kraft förra månaden och inför strikta regler för AI-utveckling och införande inom EU.

AI-konventionen, som förhandlats fram av 57 länder, återspeglar ett globalt engagemang för att säkerställa att AI-teknik inte undergräver grundläggande värderingar som mänskliga rättigheter och rättsstatsprincipen.

Europarådet, en internationell organisation skild från EU, stod i spetsen för fördraget. Med mandat att värna mänskliga rättigheter omfattar rådet 46 medlemsländer, bestående av alla EU:s 27 medlemsländer.

Fördragets antagande följer år av diskussioner, som börjar med en förstudie 2019 och som kulminerade i inrättandet av en kommitté för artificiell intelligens 2022 för att utarbeta texten.

Experter efterlyser starkare verkställighetsmekanismer

AI-konventionen tillåter undertecknare att anta eller upprätthålla lagstiftande, administrativa eller andra åtgärder för att genomföra dess bestämmelser.

Medan fördragets primära fokus ligger på att säkerställa att AI-system överensstämmer med skyddet av mänskliga rättigheter, hävdar kritiker att det breda språket och de många undantagen kan begränsa dess effektivitet.

Francesca Fanucci, en juridisk expert vid European Centre for Not-for-Profit Law Stichting (ECNL), som bidrog till fördragets utformningsprocess, har uttryckt oro över dess verkställbarhet.

Fanucci noterade att "formuleringen av principer och skyldigheter" i konventionen är "övergripande och fylld med varningar", vilket väcker frågor om rättssäkerhet och effektiv tillämpning.

En stor kritik kretsar kring de undantag som tillåts för AI-system som används för nationella säkerhetsändamål och den upplevda skillnaden i granskning mellan privata företag och den offentliga sektorn.

Fördraget återspeglar ett försök att balansera behovet av innovation med kravet att skydda mänskliga rättigheter och upprätthålla etiska standarder.

Storbritanniens justitieminister, Shabana Mahmood, beskrev konventionen som ett "stort steg" för att säkerställa att AI-teknik kan utnyttjas utan att urholka grundläggande värderingar som mänskliga rättigheter och rättsstatsprincipen.

Den brittiska regeringen har indikerat att den kommer att samarbeta med tillsynsmyndigheter, decentraliserade förvaltningar och lokala myndigheter för att på lämpligt sätt implementera fördragets nya krav.

Skillnaden mellan EU:s AI-akt och AI-konventionen

Den nyligen undertecknade AI-konventionen skiljer sig från EU:s AI-lag, som redan inför omfattande regler för AI-system inom EU:s inre marknad.

AI-lagen kategoriserar AI-applikationer baserat på deras risknivåer – oacceptabel, hög, begränsad och minimal risk – var och en med motsvarande krav på efterlevnad, transparens och styrning.

Däremot tillhandahåller AI-konventionen ett ramverk för internationellt samarbete och vägledning, men med en bredare uppsättning principer som vissa hävdar saknar specificitet.

Hur kommer nationer att genomdriva principerna?

Även om AI-konventionen har hyllats som ett viktigt steg mot ett mer reglerat AI-landskap, tyder kritiken kring dess upplevda kryphål och generaliserade principer att ytterligare förfining kan vara nödvändig.

Fanucci och andra juridiska experter hävdar att utan mer robusta och tydliga bestämmelser kan fördraget kämpa för att genomdriva meningsfulla skydd mot potentiellt missbruk av AI-teknik.

Behovet av internationellt samarbete inom AI-styrning är uppenbart, men utmaningen ligger i att skapa ett rättsligt bindande ramverk som effektivt balanserar innovation med ansvarsskyldighet.

Eftersom AI-teknik fortsätter att utvecklas snabbt, kommer effektiviteten av fördrag som AI-konventionen sannolikt att bero på framtida ändringar, strängare riktlinjer och den politiska viljan hos dess undertecknare att genomdriva dem.

Fördragets inverkan kommer till stor del att bero på hur undertecknande länder genomför dess bestämmelser och tar itu med den kritik som framförts. Det globala AI-landskapet utvecklas ständigt, och behovet av anpassningsbara och verkställbara regleringar är avgörande.

När Storbritannien och andra nationer arbetar för att införliva fördragets principer i nationell lagstiftning, kommer effektiviteten av denna banbrytande insats att övervakas noga av beslutsfattare, företag och civilsamhällesgrupper över hela världen.