VS, Groot-Brittannië en EU ondertekenen eerste internationale AI-verdrag voor verantwoorde ontwikkeling

De Europese Unie, de VS en het VK hebben het eerste juridisch bindende internationale verdrag ter wereld over kunstmatige intelligentie (AI) en gerelateerde systemen ondertekend, bekend als het AI-Verdrag.

Het verdrag werd in mei aangenomen na jarenlange onderhandelingen tussen 57 landen. Het doel is om de risico’s van AI aan te pakken en tegelijkertijd verantwoorde innovatie te bevorderen.

Sommige deskundigen beweren dat de brede formulering en de voorbehouden in het verdrag de effectiviteit ervan kunnen ondermijnen.

Hoewel deze ontwikkeling een belangrijke mijlpaal vormt in de wereldwijde inspanningen om AI te reguleren, bestaan er nog steeds vragen over de praktische impact en handhaving ervan.

AI-verdrag aangenomen door 57 landen

Het AI-verdrag, het eerste in zijn soort, richt zich op de bescherming van de mensenrechten van mensen die door AI-systemen worden getroffen.

Deze overeenkomst staat los van de AI-wet van de EU, die vorige maand van kracht werd en strenge regels oplegt aan de ontwikkeling en inzet van AI binnen de EU.

Het AI-verdrag, waarover 57 landen onderhandelen, weerspiegelt de wereldwijde inzet om ervoor te zorgen dat AI-technologieën fundamentele waarden zoals mensenrechten en de rechtsstaat niet ondermijnen.

De Raad van Europa, een internationale organisatie die losstaat van de EU, was de drijvende kracht achter het verdrag. De Raad heeft een mandaat om mensenrechten te beschermen en bestaat uit 46 lidstaten, waaronder alle 27 EU-lidstaten.

De goedkeuring van het verdrag is het gevolg van jarenlange discussies, die begonnen met een haalbaarheidsstudie in 2019 en resulteerden in de oprichting van een commissie voor kunstmatige intelligentie in 2022 om de tekst op te stellen.

Deskundigen pleiten voor sterkere handhavingsmechanismen

Het AI-verdrag biedt ondertekenaars de mogelijkheid om wetgevende, bestuurlijke of andere maatregelen te nemen of te handhaven om de bepalingen ervan uit te voeren.

Hoewel de primaire focus van het verdrag ligt op het waarborgen dat AI-systemen voldoen aan de bescherming van de mensenrechten, betogen critici dat de brede formulering en de vele uitzonderingen de effectiviteit ervan zouden kunnen beperken.

Francesca Fanucci, juridisch expert bij de European Center for Not-for-Profit Law Stichting (ECNL), die een bijdrage leverde aan het opstellen van het verdrag, heeft haar zorgen geuit over de afdwingbaarheid ervan.

Fanucci merkte op dat de “formulering van principes en verplichtingen” in het verdrag “te ruim is en vol staat met kanttekeningen”, wat vragen oproept over de rechtszekerheid en de effectieve handhaving.

Een belangrijk punt van kritiek betreft de uitzonderingen die worden toegestaan voor AI-systemen die worden gebruikt voor doeleinden van nationale veiligheid en het waargenomen verschil in toezicht tussen particuliere bedrijven en de publieke sector.

Het verdrag is een poging om de noodzaak van innovatie in evenwicht te brengen met de noodzaak om mensenrechten te beschermen en ethische normen te handhaven.

De Britse minister van Justitie, Shabana Mahmood, beschreef het verdrag als een “belangrijke stap” om ervoor te zorgen dat AI-technologieën kunnen worden ingezet zonder dat fundamentele waarden zoals mensenrechten en de rechtsstaat worden ondermijnd.

De Britse overheid heeft aangegeven dat zij met toezichthouders, gedecentraliseerde overheden en lokale overheden zal samenwerken om de nieuwe vereisten van het verdrag op de juiste manier te implementeren.

Verschil tussen de EU AI Act en het AI Verdrag

Het onlangs ondertekende AI-Verdrag onderscheidt zich van de AI-wet van de EU, die al uitgebreide regelgeving oplegt aan AI-systemen binnen de interne markt van de EU.

De AI-wet categoriseert AI-toepassingen op basis van hun risiconiveau: onaanvaardbaar, hoog, beperkt en minimaal risico. Elk niveau heeft bijbehorende vereisten voor naleving, transparantie en governance.

Het AI-Verdrag biedt daarentegen een kader voor internationale samenwerking en richtlijnen, maar met een bredere reeks principes die volgens sommigen niet specifiek genoeg zijn.

Hoe zullen landen deze principes handhaven?

Hoewel het AI-verdrag wordt gezien als een belangrijke stap in de richting van een meer gereguleerd AI-landschap, suggereert de kritiek op de vermeende mazen en algemene principes dat verdere verfijning wellicht noodzakelijk is.

Fanucci en andere juridische experts stellen dat het verdrag zonder robuustere en duidelijkere bepalingen wellicht moeite zal hebben met het afdwingen van zinvolle bescherming tegen mogelijk misbruik van AI-technologieën.

De noodzaak van internationale samenwerking op het gebied van AI-bestuur is evident, maar de uitdaging ligt in het creëren van een juridisch bindend kader dat innovatie effectief in evenwicht brengt met verantwoording.

Naarmate AI-technologieën zich razendsnel blijven ontwikkelen, zal de effectiviteit van verdragen zoals het AI-Verdrag waarschijnlijk afhangen van toekomstige wijzigingen, strengere richtlijnen en de politieke wil van de ondertekenaars om deze te handhaven.

De impact van het verdrag zal grotendeels afhangen van hoe ondertekenende landen de bepalingen ervan implementeren en de kritiek aanpakken. Het wereldwijde AI-landschap verandert voortdurend en de behoefte aan adaptieve en afdwingbare regelgeving is cruciaal.

Terwijl het Verenigd Koninkrijk en andere landen eraan werken de principes van het verdrag in de nationale wetgeving te verankeren, wordt de effectiviteit van deze baanbrekende inspanning nauwlettend in de gaten gehouden door beleidsmakers, bedrijven en maatschappelijke organisaties wereldwijd.