Por qué los modelos de IA demasiado confiados priorizan la asertividad sobre la precisión

Las preocupaciones sobre la fiabilidad de los modelos de inteligencia artificial crecen, ya que nuevas investigaciones revelan que algunos sistemas populares producen información incorrecta en más de un tercio de sus respuestas, a pesar de la creciente dependencia y confianza depositadas en la tecnología de IA, informó ING Group el miércoles.

Los modelos modernos de IA, que cuentan con razonamiento profundo, memoria a largo plazo y agentes autónomos, pueden realizar tareas como la navegación web con una intervención humana mínima.

Sin embargo, la ejecución de estas tareas exige datos extensos, lo que conduce a una mayor dependencia de fuentes externas de datos que a menudo no están controladas y no están verificadas, dijo Julian Geib, economista junior de comercio global, de ING, en un informe.

Confianza

Los principales sistemas de IA generan afirmaciones falsas a un ritmo de hasta el 40%, una consecuencia destacada en un estudio reciente de la Unión Europea de Radiodifusión (UER).

El aumento de la frecuencia de las respuestas se alinea con un cambio en el comportamiento de los modelos de IA.

Los sistemas de IA anteriores estaban programados para negarse a responder consultas sobre temas fuera de sus conjuntos de datos de entrenamiento.

Sin embargo, los sistemas contemporáneos con conectividad web están diseñados para responder con más frecuencia, incluso cuando la información disponible es limitada o incierta.

El aumento de la participación del usuario es una ventaja, pero resulta en una producción más fabricada, que llamamos "alucinaciones de la IA", dijo Geib.

Fluidez sobre precisión

Incluso los modelos de IA más recientes experimentan alucinaciones con frecuencia por varias razones.

Principalmente, cuando los usuarios plantean preguntas vagas o excesivamente complejas, el modelo tiene dificultades con la interpretación.

Esto a menudo lleva al modelo a confiar en patrones estadísticos para "rellenar los huecos", generando una respuesta aparentemente completa, pero potencialmente inexacta en el fado, dijo Geib.

Aunque estas respuestas pretenden ser útiles, pueden introducir información incorrecta.

El ajuste fino de los modelos con retroalimentación humana suele favorecer respuestas seguras y que suenan útiles, lo que conduce a un sesgo hacia afirmaciones inexactas pero asertivas en lugar de respuestas cautelosas o inciertas.

El problema se agrava con la caída en picado de la "tasa de sin respuesta".

Los modelos antiguos rechazaban casi el 40% de las consultas, pero los más nuevos respondían casi todo.

En campos críticos como la política y la salud, esta priorización de la fluidez sobre la precisión genera graves riesgos de desinformación.

La IA se está convirtiendo en una herramienta cada vez más común para acceder a información sobre acontecimientos actuales, especialmente entre los grupos más jóvenes.

Cabe destacar que el 15% de las personas menores de 25 años afirma que confía en los chatbots de IA como su principal fuente de noticias.

"Dado el creciente uso de la IA tanto en el ámbito privado como en las empresas, la precisión debería ser una prioridad", afirmó Geib.

La conciencia es vital

Geib añadió:

Las limitaciones actuales en la precisión de la IA sugieren que la sustitución total de campos profesionales enteros en un futuro inmediato es un evento de probabilidad significativamente baja, según Geib.

Esto se debe principalmente a que los profesionales humanos, en la mayoría de los ámbitos, operan con un grado de juicio matizado, comprensión contextual y precisión que los sistemas actuales de IA tienen dificultades para replicar de forma consistente.

Por tanto, el riesgo de desplazamiento generalizado de empleos solo se vuelve crítico en escenarios en los que los profesionales dentro de una profesión dependen completamente de—y no verifican críticamente—los datos y conclusiones potencialmente erróneos o erróneos generados por la IA.

Esencialmente, la IA actúa actualmente como una herramienta poderosa, pero imperfecta, y sus inexactitudes aseguran que la supervisión humana, el pensamiento crítico y la validación sigan siendo componentes indispensables del trabajo profesional.

"Las declaraciones generadas por IA deben tratarse con la misma mentalidad crítica que las afirmaciones humanas", señaló Geib.