Zuckerberg pide más IA de código abierto: cómo difieren los modelos cerrados

El consejero delegado de Meta, Mark Zuckerberg, ha renovado su impulso para reducir las barreras regulatorias en torno a la inteligencia artificial de código abierto, alegando que Estados Unidos necesita un ecosistema de IA más abierto para competir eficazmente con rivales chinos que avanzan rápidamente.

Las declaraciones se produjeron cuando Meta presentó Muse Glimmer, un nuevo modelo de IA con pesos abiertos diseñado para ejecutarse directamente en dispositivos de consumo en lugar de depender de costosa infraestructura en la nube.

Zuckerberg también indicó que Meta tiene previsto publicar más modelos en los próximos meses, reforzando su estrategia de hacer la IA más accesible.

El lanzamiento llega en un momento en que Meta intenta recuperar impulso en la carrera por la IA tras haber creado el año pasado un equipo dedicado a la superinteligencia, mientras las empresas buscan cada vez más alternativas de IA más económicas ante el aumento de los costes computacionales.

Al mismo tiempo, la discusión ha puesto de relieve una distinción importante que a menudo se malinterpreta: la diferencia entre modelos de IA cerrados, modelos con pesos abiertos y sistemas de IA verdaderamente de código abierto.

Silicon Valley lleva tiempo dividido sobre cómo debe desarrollarse la IA avanzada.

Algunas empresas sostienen que los modelos de IA potentes deberían mantenerse cerrados por motivos de seguridad, mientras que otras creen que la apertura es esencial para la innovación y la competencia.

Comprender ese debate requiere primero examinar qué son los modelos cerrados, después los modelos con pesos abiertos, y, por último, ver qué constituye una IA verdaderamente de código abierto.

¿Qué son los modelos cerrados?

Los modelos de inteligencia artificial aprenden identificando patrones en enormes cantidades de información digital.

Al entrenarse con libros, artículos de prensa, sitios web y otros documentos en línea, convierten esos patrones en miles de millones de valores numéricos conocidos como "pesos".

Esos pesos determinan en última instancia cómo razona un modelo de IA, cómo responde a las indicaciones y cómo genera contenido.

Los sistemas de IA con los que la mayoría de los consumidores interactúa hoy —ChatGPT de OpenAI, Claude de Anthropic y Gemini de Google— son ejemplos de modelos cerrados.

Aunque los usuarios pueden acceder a estos sistemas a través de sitios web o interfaces de programación de aplicaciones (APIs), las empresas que los desarrollan no publican los pesos subyacentes que alimentan los modelos.

Eso significa que los desarrolladores no pueden descargarlos, instalarlos en sus propios ordenadores, inspeccionar su funcionamiento interno ni personalizarlos para aplicaciones específicas.

Anthropic y OpenAI han argumentado que los sistemas de IA de vanguardia deberían permanecer fuertemente controlados porque los modelos cada vez más capaces presentan riesgos de seguridad significativos y deben desarrollarse en entornos cuidadosamente gestionados.

Meta, Nvidia, Microsoft y Google han adoptado por lo general una postura más abierta, sosteniendo que un acceso más amplio fomenta la innovación y permite a los desarrolladores crear nuevos negocios en torno a la tecnología de IA.

Aun así, los investigadores advierten que los modelos cerrados generan sus propios riesgos.

Según el Institute for Human-Centered AI de la Universidad de Stanford, los modelos cerrados no son necesariamente menos seguros que las alternativas abiertas, pero concentran un enorme poder en manos de unas pocas empresas.

Con capacidades de IA de vanguardia ofrecidas a través de APIs, esas empresas deciden quién obtiene acceso, cuánto cuesta y qué valores se integran en tecnologías que cada vez más moldean cómo trabaja, se comunica y crea la gente.

¿Qué son los modelos con pesos abiertos?

Los modelos con pesos abiertos ocupan un punto intermedio entre los sistemas totalmente cerrados y la IA completamente de código abierto.

Cuando los desarrolladores describen un modelo de IA como con pesos abiertos, se refieren a que los pesos entrenados del modelo se han hecho públicos.

Eso permite a desarrolladores externos descargar el modelo, ejecutarlo localmente y afinarlo para fines específicos, como sanidad, ciberseguridad o desarrollo de software.

Si los pesos permanecen privados, los usuarios deben interactuar con la IA exactamente como sus creadores la concibieron.

Sin embargo, los modelos con pesos abiertos no lo revelan todo.

Normalmente, las empresas publican solo los parámetros entrenados y retienen el código original de entrenamiento, los conjuntos de datos, los detalles de la arquitectura del modelo y gran parte de la metodología utilizada para construir el sistema.

Como resultado, los usuarios ganan flexibilidad sin obtener transparencia completa.

Los modelos con pesos abiertos también suelen ser considerablemente más baratos que los sistemas de IA de vanguardia ofrecidos por empresas como OpenAI y Anthropic porque a menudo pueden ejecutarse localmente sin los costosos recursos de computación en la nube.

Aunque varias empresas estadounidenses publican modelos con pesos abiertos, muchos de los sistemas más adoptados actualmente proceden de China, incluyendo la familia Qwen de Alibaba, los modelos de DeepSeek, la línea Kimi de Moonshot AI y la serie GLM de Zhipu AI.

Su popularidad ha crecido rápidamente a medida que las empresas buscan menores costes operativos de IA manteniendo un mayor control sobre el despliegue.

Entonces, ¿qué son los modelos de código abierto?

Los repetidos llamamientos de Zuckerberg a favor de la IA de código abierto también han reavivado el debate sobre si los llamados modelos "abiertos" de hoy son realmente de código abierto.

Hay una distinción importante entre publicar un modelo de IA con pesos abiertos y lanzarlo como código completamente abierto.

Los pesos abiertos implican publicar únicamente los parámetros preentrenados que determinan cómo se comporta la red neuronal.

Esto permite a los desarrolladores realizar inferencia y ajustar el modelo para aplicaciones posteriores.

No obstante, elementos cruciales siguen sin estar disponibles, incluidos el código de entrenamiento, los conjuntos de datos originales, la arquitectura del modelo y el proceso utilizado para entrenarlo.

Publicar la IA de esta manera amplía el acceso pero limita la transparencia, la reproducibilidad y la verificación independiente.

Los desarrolladores que usan modelos con pesos abiertos deben, en última instancia, confiar en los juicios y las representaciones aprendidas por los creadores originales sin poder recrearlos o auditarlos por completo.

Un modelo de IA verdaderamente de código abierto va mucho más allá.

Incluye todo lo necesario para reproducir el modelo desde cero: código fuente, arquitectura, metodología de entrenamiento, hiperparámetros, conjuntos de datos y documentación de apoyo.

Ese nivel de apertura permite a los investigadores no solo ejecutar el modelo, sino también inspeccionarlo, mejorarlo y construir sistemas completamente nuevos a partir de la misma base.

«Existe una gran brecha entre la IA con pesos abiertos y la IA de código abierto», dijo James Landay, director Denning del Stanford Institute for Human-Centered AI.

«Los pesos abiertos responden a ‘¿Puedo ejecutar esto?’. El código abierto responde a ‘¿Puedo confiar en esto, mejorarlo y construir lo siguiente sobre ello?’. Ahora mismo casi todo el mundo —laboratorios estadounidenses y chinos por igual— está respondiendo a la primera pregunta, pero ni mucho menos a la segunda.»

El impulso de Meta por modelos de código abierto

Junto con la publicación del modelo, Zuckerberg publicó un ensayo de 14 páginas en el que expone su visión sobre el futuro de la inteligencia artificial.

En el documento, titulado The Future is for Everyone, sostuvo que la IA debería entenderse como una herramienta para un beneficio social amplio en lugar de una tecnología que deba restringirse de forma estricta.

También subrayó que Estados Unidos debe mantener su liderazgo frente a China en la carrera global por la IA.

Sin nombrar competidores como Anthropic y OpenAI, Zuckerberg criticó los enfoques que abogan por controles más estrictos sobre sistemas de IA avanzados.

Sostuvo que concentrar la tecnología en manos de unas pocas empresas podría, en sí mismo, crear riesgos.

«En lugar de centralizar la superinteligencia, deberíamos distribuirla», escribió Zuckerberg, de 42 años, en el ensayo. «Esto tiene el potencial de comenzar una nueva era de empoderamiento personal.»

La compañía estuvo entre los primeros grandes desarrolladores de IA en publicar públicamente un gran modelo de lenguaje, LLaMA, en febrero de 2023. Meta publicó tanto el código de inferencia necesario para ejecutar el modelo como los pesos aprendidos durante el entrenamiento.

No obstante, organizaciones como la Open Source Initiative han argumentado que las restricciones de licencia de LLaMA —particularmente las que gobiernan la reutilización comercial— impiden que cumpla la definición aceptada de software verdaderamente de código abierto.

En su lugar, muchos expertos lo clasifican como un modelo con pesos abiertos.

Aun así, muchos desarrolladores consideran que una IA genuinamente de código abierto debería incluir no solo el código y los pesos, sino también los conjuntos de datos utilizados durante el entrenamiento, lo que permitiría una transparencia completa sobre cómo se construyen estos sistemas cada vez más influyentes.