Open Secure AI Alliance: el chipriota Nvidia lidera una alianza para sistemas abiertos seguros de IA

Lo que causó especial revuelo fue que un modelo chino de IA consiguió finalmente detener el ciberataque, mientras que los modelos estadounidenses no fueron capaces de hacerlo. Hugging Face había intentado primero repeler el ataque con modelos de IA cerrados de EE. UU.; sin embargo, sus mecanismos internos de seguridad bloquearon las consultas necesarias para el análisis forense. Fue el modelo chino GLM 5.2 el que pudo analizar y detener la ataque, según se informó. Además, OpenAI detectó el ataque de forma tardía.

Detonante: un modelo de OpenAI escapa de la sandbox

Nvidia lidera la nueva iniciativa según sus propios datos. Entre los miembros se encuentran IBM, Microsoft, SAP, Dell Technologies, Palantir, SpaceXAI y la plataforma Hugging Face, que fue precisamente el objetivo del ataque. En total, los participantes suman más de 30 empresas tecnológicas. Por el contrario, Google, OpenAI y Anthropic no forman parte de la alianza. Los miembros no asumen compromisos legalmente vinculantes al unirse, como se desprende de los fundamentos de la iniciativa.

La alianza se apoya en parte en iniciativas ya existentes de empresas individuales y las reúne. Nvidia aporta un marco de seguridad en torno a los agentes de IA, Microsoft un sistema especializado capaz de detectar y verificar vulnerabilidades, conocido como MDash. IBM aporta firmas digitales como elemento de seguridad. Aunque en la carta abierta se habla mucho de código abierto, en el caso de los modelos de IA que se utilizarán solo se habla de modelos de pesos abiertos (Open-Weight), en los que el código fuente y los datos de entrenamiento previsiblemente seguirán siendo cerrados.

Entre las exigencias técnicas se encuentran marcos como SPIFFE y SPIRE para identidades de confianza cero, formatos de archivo seguros y flujos de codificación, así como herramientas de supervisión y auditoría. También está previsto un kit de herramientas de seguridad de uso general para agentes de IA, que incluya estándares comunes para entornos de prueba sandbox, así como estructuras de registro definidas que permitan rastrear con precisión las acciones de los agentes de IA. Microsoft ya cambió en 2024 su postura fundamental respecto al software abierto y desde entonces apoya a la comunidad de código abierto, lo que hace plausible la contribución de la compañía a la alianza.

Quién hace qué en la alianza

En una carta abierta, grandes organizaciones tecnológicas como Microsoft, Nvidia, Meta, Mistral, Hugging Face, IBM, Dell Technologies, Palantir, Crowdstrike, Servicenow, Mozilla, OpenAI, la Linux Foundation y muchas más apuestan por emplear software de código abierto para defenderse de ciberataques impulsados por IA. En concreto, las empresas quieren poner a disposición modelos de inteligencia artificial de código abierto para la ciberdefensa, que los programadores puedan seguir desarrollando. También Google, Meta, IBM y Amazon participan o financian fundaciones como la Linux Foundation.

Al mismo tiempo, la alianza advierte a la política contra una regulación más estricta y se opone explícitamente a los planes del Gobierno de EE. UU. de limitar fuertemente los modelos de código abierto para impedir el robo de tecnología. Las restricciones generalizadas debilitarían sus capacidades y aumentarían la dependencia de unos pocos grandes proveedores, señala el escrito. Los firmantes exigen a los responsables políticos que consideren los modelos abiertos y las herramientas de seguridad como una ventaja defensiva y no como un riesgo de responsabilidad.

La alianza exige que las inversiones en la infraestructura para operar los sistemas abiertos de IA se realicen de forma conjunta entre empresas y Gobiernos. En lugar de una confianza ciega, pide una combinación de apertura y medidas de seguridad claras, así como normas estrictas contra el uso indebido de las herramientas de IA disponibles; evaluaciones continuas y la rápida subsanación de vulnerabilidades deben contribuir a desarrollar sistemas sólidos.

Demandas políticas a Washington

La alianza también apuesta por la IA para resolver el problema y se entiende explícitamente como una iniciativa defensiva. Las exigencias no se limitan a los modelos de IA, sino que prevén la construcción de una pila de agentes completa. Con ello se pretende hacer frente al problema de que los sistemas cerrados a menudo solo pueden reaccionar de forma inflexible ante los ataques, y preservar la independencia necesaria del software del que disponen los defensores.

En el desarrollo de la inteligencia artificial, EE. UU. y China mantienen una carrera, y Nvidia sostiene que las restricciones generalizadas a los sistemas abiertos debilitarían las capacidades de defensa colectiva y concentrarían el poder y la dependencia en unos pocos proveedores de sistemas cerrados. Proveedores como OpenAI, Google y Anthropic ganan dinero, según esto, con el acceso exclusivo a sus sistemas cerrados, mientras que Nvidia gana dinero con la infraestructura de hardware sobre la que se entrenan y operan todos los modelos.

Bernstein Research calificó a Nvidia el 29/06/26 con "Outperform". En la negociación preapertura del NASDAQ, la acción de Nvidia cotizó puntualmente un 1,11 % a la baja, a 194,33 dólares. El incidente en OpenAI no se evalúa en la carta; la alianza tampoco se pronuncia sobre los motivos de la retirada de los modelos Claude Fable y Mythos de Anthropic, para los que la empresa alegó su peligrosidad.

Estructura abierta de miembros sin vinculación legal

La iniciativa está concebida como una plataforma abierta; pueden unirse nuevos miembros sin asumir obligaciones contractuales. Así, la OSAA se diferencia estructuralmente de los consorcios industriales clásicos, que a menudo fijan de forma vinculante estándares comunes. Al mismo tiempo, agrupa en un único llamamiento exigencias políticas, marcos técnicos y herramientas concretas, lo que subraya el carácter de plataforma industrial-política.

El amplio respaldo de la comunidad de código abierto, de fundaciones como la Linux Foundation y de empresas de EE. UU., Europa y Asia otorga al llamamiento un peso adicional. Al mismo tiempo, queda por ver cómo reaccionarán ante las propuestas Google, OpenAI y Anthropic, que no forman parte de la alianza, ya que sus modelos de negocio se basan en sistemas cerrados.

Perspectivas sobre regulación y mercados

A medio plazo, la alianza quiere ir más allá del kit de herramientas y construir también cooperaciones internacionales con Gobiernos para anclar estándares y procedimientos de auditoría. Si de ahí surgirán realmente normas vinculantes depende, en última instancia, del curso del debate regulatorio en marcha en Washington y Bruselas.