¿Qué es la superinteligencia y por qué los gigantes tecnológicos piden su prohibición?

Más de 800 figuras prominentes de todo el espectro tecnológico, científico, político y cultural han firmado una declaración pública en la que piden la prohibición del desarrollo de sistemas de inteligencia artificial "superinteligentes".

La coalición, coordinada por el Future of Life Institute y anunciada el miércoles, incluye al cofundador de Apple, Steve Wozniak, al fundador de Virgin Group, Richard Branson, cinco premios Nobel, los pioneros de la IA Geoffrey Hinton y Yoshua Bengio, ambos a menudo llamados "padrinos de la IA".

También incluye al ex jefe del Estado Mayor Conjunto de Estados Unidos, Mike Mullen, al asesor de inteligencia artificial del papa Francisco, Paolo Benanti, e incluso al príncipe Harry y Meghan, el duque y la duquesa de Sussex.

El grupo políticamente diverso refleja lo que los organizadores describen como una preocupación universal por los riesgos existenciales que plantean las máquinas que podrían superar la inteligencia humana.

¿Qué es la superinteligencia?

La superinteligencia, a veces denominada superinteligencia artificial o ASI, se refiere a un tipo de IA que sería más inteligente que los humanos en prácticamente todas las áreas que importan.

Eso es muy diferente de las herramientas de IA actuales, como ChatGPT, que entran en la categoría de "IA estrecha" porque están diseñadas para realizar tareas específicas.

Incluso los sistemas más avanzados que tenemos ahora, incluidos los grandes modelos de lenguaje como GPT-5, siguen siendo limitados.

Pueden escribir código, redactar ensayos e incluso aprobar exámenes, pero no piensan de forma independiente, no establecen sus propios objetivos ni entienden el mundo como lo hacen los humanos.

En realidad, solo predicen patrones basados en datos de entrenamiento, no razonan sobre el futuro ni toman decisiones autónomas.

Algunos investigadores piensan que el próximo hito es AGI, inteligencia general artificial, que igualaría la inteligencia humana y aprendería nuevas tareas por sí misma.

Pero la superinteligencia iría mucho más allá de eso.

En teoría, podría superar a los humanos en ciencia, estrategia, ingeniería, medicina, básicamente todos los dominios cognitivos, y podría resolver problemas que actualmente están fuera de nuestro alcance.

Ese salto exponencial es exactamente la razón por la que el debate sobre sus riesgos es tan intenso.

¿Por qué los líderes tecnológicos piden una prohibición?

Quienes firmaron la petición dicen que la carrera actual hacia la superinteligencia, liderada por empresas como OpenAI, Google y Meta, se está moviendo mucho más rápido de lo que los gobiernos o los reguladores pueden seguir.

Incluso los expertos están haciendo sonar las alarmas: Sam Altman ha dicho que se sorprendería si la superinteligencia no estuviera aquí para 2030, y Meta ha ido tan lejos como para cambiar el nombre de parte de su división de IA a "Meta Superintelligence Labs", dejando sus ambiciones muy claras.

La petición describe la superinteligencia como un riesgo a escala de pandemias o armas nucleares.

Ese marco no es nuevo, ya que se hace eco de una declaración de 2023 de los ejecutivos de IA instando a los líderes mundiales a tratar el riesgo de extinción de la IA como una prioridad global.

Los partidarios de la prohibición dicen que lo que está en juego es existencial.

Si los sistemas superinteligentes se construyen sin reglas de seguridad estrictas, argumentan, los humanos podrían perder el control sobre los sistemas críticos, sufrir un desplazamiento económico masivo o enfrentar resultados mucho peores.

Stuart Russell, el investigador de seguridad de IA de UC Berkeley que firmó la petición, enfatizó que esto no pretende ser una prohibición general, sino más bien una demanda de que se implementen protocolos de seguridad para una tecnología que, según sus propios creadores, podría acabar con la humanidad.

Esta petición es la última de una creciente ola de intentos coordinados para frenar la carrera hacia una IA cada vez más poderosa.