Estados Unidos, Gran Bretaña y la UE firman el primer tratado internacional de IA para el desarrollo responsable

La Unión Europea, Estados Unidos y el Reino Unido han firmado el primer tratado internacional jurídicamente vinculante del mundo sobre inteligencia artificial (IA) y sistemas relacionados, conocido como la Convención sobre IA.

Adoptado en mayo después de años de negociaciones entre 57 países, el tratado tiene como objetivo abordar los riesgos que plantea la IA y promover al mismo tiempo la innovación responsable.

Algunos expertos sostienen que el lenguaje amplio del tratado y sus salvedades podrían socavar su eficacia.

Si bien este avance marca un hito importante en los esfuerzos globales por regular la IA, aún quedan dudas sobre su impacto práctico y su aplicación.

Tratado de IA adoptado por 57 países

La Convención sobre IA, la primera de su tipo, se centra en la protección de los derechos humanos de las personas afectadas por los sistemas de IA.

Este acuerdo es independiente de la Ley de IA de la UE, que entró en vigor el mes pasado e impone regulaciones estrictas sobre el desarrollo y la implementación de IA dentro de la UE.

Negociada por 57 países, la Convención sobre IA refleja un compromiso global para garantizar que las tecnologías de IA no socaven valores fundamentales como los derechos humanos y el estado de derecho.

El Consejo de Europa, una organización internacional distinta de la UE, fue el impulsor del tratado. Con el mandato de salvaguardar los derechos humanos, el Consejo incluye 46 países miembros, que comprenden los 27 estados miembros de la UE.

La adopción del tratado es el resultado de años de debates, que comenzaron con un estudio de viabilidad en 2019 y culminaron con el establecimiento de un Comité sobre Inteligencia Artificial en 2022 para redactar el texto.

Los expertos piden mecanismos de aplicación más estrictos

La Convención sobre IA permite a los signatarios adoptar o mantener medidas legislativas, administrativas o de otro tipo para implementar sus disposiciones.

Si bien el objetivo principal del tratado es garantizar que los sistemas de IA se alineen con las protecciones de los derechos humanos, los críticos argumentan que el lenguaje amplio y las numerosas exenciones podrían limitar su eficacia.

Francesca Fanucci, experta jurídica del Centro Europeo para el Derecho Sin Fines de Lucro (ECNL), que contribuyó al proceso de redacción del tratado, ha expresado su preocupación sobre su aplicabilidad.

Fanucci señaló que la “formulación de principios y obligaciones” en la convención es “demasiado amplia y está plagada de salvedades”, lo que plantea interrogantes sobre la seguridad jurídica y su aplicación efectiva.

Una de las principales críticas se centra en las exenciones permitidas para los sistemas de IA utilizados con fines de seguridad nacional y la disparidad percibida en el escrutinio entre las empresas privadas y el sector público.

El tratado refleja un intento de equilibrar la necesidad de innovación con el imperativo de proteger los derechos humanos y defender los estándares éticos.

La ministra de Justicia británica, Shabana Mahmood, describió la convención como un “paso importante” para garantizar que las tecnologías de IA puedan aprovecharse sin erosionar valores fundamentales como los derechos humanos y el estado de derecho.

El gobierno del Reino Unido ha indicado que trabajará con los reguladores, las administraciones descentralizadas y las autoridades locales para implementar adecuadamente los nuevos requisitos del tratado.

Diferencia entre la Ley de IA de la UE y el Convenio sobre IA

La Convención sobre IA recientemente firmada es distinta de la Ley de IA de la UE, que ya impone regulaciones integrales sobre los sistemas de IA dentro del mercado interno de la UE.

La Ley de IA clasifica las aplicaciones de IA en función de sus niveles de riesgo (inaceptable, alto, limitado y mínimo), cada uno con requisitos correspondientes de cumplimiento, transparencia y gobernanza.

Por el contrario, la Convención sobre IA proporciona un marco para la cooperación y la orientación internacionales, pero con un conjunto más amplio de principios que algunos sostienen que carecen de especificidad.

¿Cómo harán cumplir los principios las naciones?

Si bien la Convención sobre IA ha sido aclamada como un paso significativo hacia un panorama de IA más regulado, las críticas en torno a sus lagunas percibidas y principios generalizados sugieren que puede ser necesario un mayor perfeccionamiento.

Fanucci y otros expertos legales sostienen que sin disposiciones más sólidas y claras, el tratado puede tener dificultades para imponer protecciones significativas contra posibles abusos de las tecnologías de IA.

La necesidad de cooperación internacional en la gobernanza de la IA es evidente, pero el desafío radica en crear un marco jurídicamente vinculante que equilibre eficazmente la innovación con la responsabilidad.

A medida que las tecnologías de IA continúan evolucionando rápidamente, la eficacia de tratados como la Convención sobre IA probablemente dependerá de futuras enmiendas, directrices más estrictas y la voluntad política de sus signatarios para hacerlas cumplir.

El impacto del tratado dependerá en gran medida de cómo los países signatarios implementen sus disposiciones y aborden las críticas planteadas. El panorama mundial de la IA está en constante evolución y la necesidad de regulaciones adaptables y aplicables es crucial.

Mientras el Reino Unido y otras naciones trabajan para incorporar los principios del tratado a su legislación nacional, la eficacia de este esfuerzo pionero será seguida de cerca por los responsables políticos, las empresas y los grupos de la sociedad civil de todo el mundo.