Junta de supervisión de Meta advierte sobre sesgo político en modelos de IA

Los modelos de inteligencia artificial desarrollados por empresas líderes, incluidas Anthropic y OpenAI, son significativamente menos propensos a generar contenido políticamente crítico sobre gobiernos conocidos por restringir la libertad de expresión, según un nuevo estudio publicado el jueves por la Junta de Supervisión de Meta.

La junta dijo que los hallazgos sugieren que los modelos de lenguaje a gran escala pueden estar reflejando las restricciones al discurso impuestas por ciertos gobiernos, lo que plantea preocupaciones sobre que el sesgo político pueda incrustarse en servicios de IA utilizados por un número creciente de personas.

El estudio examinó 10 modelos de IA en varias jurisdicciones

La investigación supone el primer estudio de la Junta de Supervisión centrado en modelos de lenguaje a gran escala.

La junta, financiada por Meta pero que opera de forma independiente, probó solicitudes políticamente críticas en 10 jurisdicciones empleando 10 modelos de IA.

Los modelos incluyeron sistemas desarrollados por Meta Platforms, Google y la china DeepSeek, junto a modelos de otras empresas líderes de IA, incluidas Anthropic y OpenAI.

Para realizar el análisis, la junta dividió las jurisdicciones en dos categorías, "permisivas" y "restrictivas".

Las clasificaciones se basaron en los rankings publicados por Freedom House en su informe anual Freedom in the World.

Los modelos mostraron tasas de rechazo más altas para gobiernos restrictivos

Según el estudio, los modelos de IA rechazaron el 34% de las solicitudes que buscaban contenido políticamente crítico sobre jurisdicciones restrictivas que penalizan activamente dichas críticas, incluyendo China y Arabia Saudita.

En comparación, la tasa de rechazo bajó al 14% en jurisdicciones que no cuentan con tales leyes o que no las hacen cumplir activamente.

La junta afirmó que los resultados indican que los sistemas de IA pueden mostrarse más cautelosos al responder a solicitudes que involucran a gobiernos con controles más estrictos sobre la libertad de expresión política.

La junta señala referencias inexplicables a normas inexistentes

Más allá de las tasas de rechazo, la Junta de Supervisión dijo que identificó ejemplos en los que los modelos de IA parecían justificar sus respuestas haciendo referencia a normas que no pudieron verificarse.

"También vimos evidencia de modelos que explicaban que seguían reglas explícitas que, hasta donde pudimos comprobar, no existían y no se aplicaban de manera uniforme", dijo la junta.

La junta indicó que esto planteó preguntas adicionales sobre cómo los sistemas de IA determinan cuándo rechazar solicitudes políticamente sensibles y si esas decisiones se aplican de manera coherente.

La Junta de Supervisión pide mayor transparencia

En respuesta a sus hallazgos, la Junta de Supervisión instó a los desarrolladores de IA a realizar evaluaciones sistemáticas de derechos humanos como parte del desarrollo y despliegue de sus modelos.

También pidió a las empresas de IA que ofrezcan mayor transparencia sobre sus métodos de entrenamiento y procesos de evaluación, argumentando que una mayor apertura ayudaría a usuarios e investigadores a comprender mejor cómo se gestiona el contenido políticamente sensible.

El estudio se publica en medio de discusiones más amplias sobre la gobernanza de los sistemas avanzados de IA.

A principios de esta semana, el director ejecutivo de Google DeepMind, Demis Hassabis, pidió la creación de un organismo de vigilancia de IA liderado por EE. UU. para examinar modelos avanzados de IA a nivel mundial antes de su despliegue.

El informe de la Junta de Supervisión se suma al debate en curso sobre el equilibrio entre la seguridad de la IA, la neutralidad política y la transparencia, y sugiere que la forma en que los modelos responden a temas políticamente sensibles puede variar según los gobiernos implicados y los entornos legales en los que operan.