Nvidia lanza alianza de seguridad para OpenAI ante el aumento de ciberamenazas
Sentimiento de IA: 68/100 Alcista
Esta puntuación se genera mediante un análisis impulsado por IA del contenido del artículo.
con tecnología de
Comprar Nvidia. La Open Secure AI Alliance es un viento de cola directo para la plataforma de IA de Nvidia: más herramientas de seguridad para modelos abiertos implican mayor demanda de entrenamiento e inferencia en las GPU de Nvidia, además de reforzar la credibilidad de Nvidia como habilitador de la “seguridad abierta” junto a Microsoft/SpaceX/Palantir. La alianza también consolida la posición de Nvidia en los presupuestos empresariales para seguridad de IA.
Riesgo clave: Un cambio de política importante que restrinja la adopción de IA de pesos abiertos (o que obligue a los miembros de la alianza a depender de pilas no basadas en Nvidia), reduciendo la demanda de GPU y desacelerando las implantaciones empresariales.
Comprar Palantir. El objetivo de la alianza — remediar y divulgar vulnerabilidades — genera demanda para la capa de software de Palantir, que integra inteligencia sobre amenazas, audita el comportamiento de modelos y operacionaliza flujos de trabajo de seguridad en las organizaciones. Si los modelos abiertos se convierten en la opción predeterminada para los defensores, Palantir pasa a ser la capa de “gobernanza + despliegue” para esas herramientas.
Riesgo clave: La alianza no se traduce en contratos empresariales reales (los miembros publican herramientas pero no adquieren despliegues de Palantir), dejando a Palantir como un mero espectador.
- Nvidia y grandes empresas tecnológicas lanzan una alianza centrada en la seguridad de la IA abierta.
- Hugging Face recurrió a un modelo chino abierto tras la negativa de los sistemas estadounidenses.
- Líderes de la industria advierten que las restricciones sobre la IA de pesos abiertos podrían perjudicar la innovación.
Nvidia y un grupo de grandes empresas tecnológicas lanzaron el lunes una nueva iniciativa centrada en la seguridad y protección de la IA para modelos abiertos.
La medida llega en un momento en que la industria tecnológica afronta crecientes preocupaciones sobre el uso de la inteligencia artificial en ciberataques y un aumento del escrutinio hacia los modelos de IA chinos.
La iniciativa se produce tras la divulgación de un ciberataque que involucró a un modelo no autorizado de OpenAI.
El incidente puso de manifiesto las inquietudes sobre la capacidad de los sistemas de IA para distinguir entre atacantes y equipos de ciberseguridad que los defienden.
La nueva alianza tiene como objetivo desarrollar y compartir herramientas de IA abiertas.
También busca abordar vulnerabilidades mediante tecnologías abiertas.
La iniciativa se produce en un momento en que los legisladores estadounidenses consideran cada vez más medidas para limitar la adopción creciente de modelos de IA chinos.
Nueva alianza se centra en la seguridad de la IA abierta
NVDA dijo que la recién formada Open Secure AI Alliance se centrará en abordar vulnerabilidades de seguridad y hacerlas públicas mediante el uso de tecnologías abiertas.
«La Open Secure AI Alliance trabajará para remediar y divulgar vulnerabilidades utilizando tecnologías abiertas», dijo Nvidia en un comunicado.
«El reciente incidente de seguridad en Hugging Face fue un recordatorio claro: los defensores cibernéticos necesitan sistemas abiertos, de vanguardia y basados en agentes para la autodefensa.»
La alianza incluye a Nvidia, Microsoft, SpaceX y Palantir, junto con decenas de otras empresas tecnológicas de EE. UU. y Europa.
La iniciativa se centra en modelos de IA abiertos, que pueden ser descargados, modificados y alojados por los propios usuarios.
Esto difiere de los modelos de IA cerrados, incluidos los sistemas de vanguardia desarrollados por empresas como Anthropic y OpenAI, que solo son accesibles a través de una infraestructura específica.
El impulso de las empresas a favor de herramientas de IA abiertas se produce tras un reciente incidente de seguridad que afectó a Hugging Face, una startup de IA que fue objetivo de un ciberataque.
La empresa no pudo utilizar los principales modelos de frontera estadounidenses para defenderse durante el incidente.
Según se informó, las salvaguardias de esos sistemas no distinguieron entre un agresor y un defensor.
Como resultado, Hugging Face recurrió a un modelo chino de IA autoalojado, de pesos abiertos, que no estaba sujeto a las mismas restricciones.
El incidente ha alimentado el debate sobre si los modelos de IA abiertos pueden desempeñar un papel importante en la ciberseguridad.
También ha planteado dudas sobre el impacto de las restricciones en el uso de sistemas avanzados de IA.
Preocupaciones por las restricciones a los modelos de IA chinos
El lanzamiento de la alianza se produce en un contexto de crecientes demandas de medidas que podrían limitar el acceso a modelos de IA desarrollados por empresas chinas.
Los modelos chinos de IA más avanzados son de pesos abiertos, lo que permite descargarlos y usarlos de formas que difieren de los sistemas de IA cerrados.
Las empresas chinas de IA también han sido acusadas de utilizar campañas para extraer información de sistemas operados por rivales estadounidenses.
Este proceso se conoce como «destilación», en el que un modelo de IA extrae conocimiento de otro mejor entrenado.
El secretario del Tesoro, Scott Bessent, amenazó la semana pasada con sanciones contra empresas chinas que lleven a cabo ataques de destilación contra compañías estadounidenses.
La perspectiva de nuevas restricciones ha añadido incertidumbre al futuro de los modelos de IA de pesos abiertos y a su disponibilidad.
La industria advierte contra restricciones prematuras
Chris McGuire, investigador sénior para China y tecnologías emergentes en el Council on Foreign Relations, dijo que el gobierno de EE. UU. podría introducir potencialmente restricciones sobre los modelos de IA chinos.
«Existe una posibilidad real de que el gobierno de EE. UU. imponga restricciones a los modelos chinos», dijo McGuire a CNBC.
Al mismo tiempo, grandes empresas tecnológicas han instado a los responsables políticos a adoptar un enfoque prudente a la hora de regular la IA de pesos abiertos.
La semana pasada, Nvidia, Microsoft, Meta, Palantir y más de 20 empresas publicaron una carta en la que pedían a los responsables políticos evitar «restricciones prematuras» sobre los modelos de IA de pesos abiertos.
Las empresas argumentaron que tales restricciones podrían «sofocar la competencia o impulsar la innovación en el extranjero».
El debate refleja una tensión creciente dentro de la industria de la IA.
Empresas y legisladores buscan abordar los riesgos de seguridad vinculados a sistemas avanzados de IA, al tiempo que garantizan que desarrolladores y equipos de ciberseguridad tengan acceso a herramientas potentes.
Para Nvidia y sus socios, la Open Secure AI Alliance representa un impulso para reforzar el papel de las tecnologías abiertas en la seguridad de la IA.
La iniciativa también llega mientras los responsables políticos sopesan cómo responder a la rápida adopción de modelos de IA chinos y al desarrollo más amplio de la inteligencia artificial de pesos abiertos.
La IA ha cambiado cómo Wall Street valora a las empresas
¿De ciencia ficción a realidad? El hackeo de Hugging Face por OpenAI, explicado
Resumen: Anthropic presenta Opus 5; el petróleo cede tras subir por encima de $100
AMD firma acuerdo de inferencia AI con Cerebras tras trato con Anthropic; acciones caen 3%
Por qué las acciones de SpaceX caen más del 3% el jueves
No se encontraron resultados
Cargando artículos...
Failed to load articles. Please try again.
