Anthropic vs. Alibaba: Acusación de un ataque de copia de IA contra Claude

Según el escrito, los atacantes recurrieron a un método conocido con el nombre de "destilación", mediante el cual los desarrolladores de nuevo software lo entrenan con inteligencia artificial a partir de un modelo ya existente. A través de este procedimiento pretendían averiguar más sobre aspectos centrales como la arquitectura del software y su lógica al ejecutar tareas. Este tipo de accesos suelen estar prohibidos en las condiciones de uso.

Peticiones al Congreso de EE. UU.

Según la carta, los atacantes vinculados a Alibaba interactuaron con el software de IA Claude de Anthropic casi 29 millones de veces a través de cerca de 25.000 cuentas fraudulentas entre finales de abril y principios de junio. La preocupación es que la IA pueda ser utilizada para ciberataques. Anthropic declaró que solo se vieron afectados modelos menores; los sistemas centrales no se vieron comprometidos. Alibaba no se pronunció inicialmente sobre las acusaciones.

Anthropic contrarrestó que los problemas no eran graves. Al mismo tiempo, Anthropic exigió al Congreso, entre otras cosas, una actuación más firme contra las empresas chinas que recurren a la "destilación". Asimismo, las empresas estadounidenses de IA deberían obtener la libertad de advertirse mutuamente ante este tipo de ataques.

Anthropic en su propio conflicto con Washington

Las acusaciones no son nuevas. Anthropic ya acusa desde hace tiempo a empresas chinas de apropiarse de forma indebida de conocimiento de modelos occidentales de IA mediante la destilación. Con la actual carta, la empresa endurece ahora su tono político y, al mismo tiempo, presiona a los legisladores estadounidenses.

En paralelo, Anthropic se encuentra inmersa en un conflicto con el Gobierno de EE. UU. Este obligó recientemente a la empresa a retirar temporalmente del mercado su software estrella de inteligencia artificial. El Gobierno estadounidense justificó la medida alegando supuestas brechas de seguridad a través de las cuales se habrían podido eludir las restricciones del programa de IA denominado "Fable 5". En el programa está bloqueada, entre otras, la capacidad de buscar vulnerabilidades de seguridad en otro software. Las negociaciones con el Gobierno de EE. UU. sobre el bloqueo siguen en curso.

Nvidia y la disputa por las exportaciones a China

Anthropic es uno de los rivales más duros de OpenAI, el desarrollador de ChatGPT, y se cuenta entre las principales empresas de IA en Estados Unidos. En la carta actual, la empresa de IA confirma además su línea de confrontación con el gigante de los chips Nvidia. La empresa aboga ante el Gobierno de EE. UU. por permitir también la exportación a China de sistemas de IA más potentes. Anthropic, en cambio, exige restringir aún más el acceso de empresas chinas a tecnologías como los chips de IA.

También otros pesos pesados del sector fuera de Anthropic ven la destilación con ojos críticos. El multimillonario tecnológico Elon Musk admitió recientemente en un proceso judicial haber utilizado él mismo la técnica de destilación para entrenar a su chatbot de IA Grok con modelos de OpenAI. El procedimiento había desencadenado también dentro del sector tecnológico estadounidense un debate más amplio sobre los límites del entrenamiento admisible de modelos.

La destilación, también controvertida en EE. UU.

Las acusaciones contra Alibaba se producen en una fase de creciente tensión política entre Washington y Pekín en el ámbito de la inteligencia artificial. En ambos lados pesan acusaciones de transferencias tecnológicas no autorizadas. El Gobierno de EE. UU. impone desde hace tiempo restricciones a la exportación de chips de IA de alto rendimiento hacia China, mientras que las empresas chinas, por su parte, desarrollan cada vez más sus propios modelos, que no se basan en hardware occidental.

Con su carta a los senadores, Anthropic intenta ahora influir en esta línea política. La empresa no solo exige reglas más estrictas contra las firmas chinas, sino también la cobertura legal para que las empresas estadounidenses de IA puedan advertirse mutuamente entre sí de ataques como la presunta ataque de destilación. De este modo se posibilitaría un intercambio de información que hoy está limitado por el derecho de competencia y la normativa antimonopolio.

Dimensión política y perspectivas

Los observadores valoran la actuación como parte de una estrategia más amplia en la que las empresas estadounidenses de IA quieren asegurar su posición de mercado mediante exigencias políticas. Anthropic se beneficia de su imagen de empresa orientada a la seguridad, que señaló tempranamente los riesgos de la inteligencia artificial. Al mismo tiempo, la estrecha imbricación entre intereses comerciales y retórica de política de seguridad plantea interrogantes.

Alibaba es uno de los mayores proveedores de nube e IA de China e invierte miles de millones en sus propios modelos de IA, que cobran creciente relevancia a nivel internacional. Si las acusaciones contra la empresa se consolidan, esto podría dificultar aún más las negociaciones en curso sobre permisos de exportación de chips de IA. Alibaba, por su parte, no se ha pronunciado hasta ahora sobre el fondo de las acusaciones.

Por el momento no está claro qué acciones legales concretas piensa emprender Anthropic contra Alibaba. Tampoco queda claro si el Gobierno de EE. UU. atenderá las demandas de la carta. Lo que está claro es que la disputa eleva la competencia entre empresas de IA estadounidenses y chinas a un nuevo nivel político: lejos de los estándares técnicos, hacia un debate marcado por la geopolítica y la seguridad.

La carta de Anthropic marca, por tanto, no solo un nuevo conflicto con un competidor chino, sino también el intento de sacar rédito político en Washington de lo ocurrido. Que las demandas de mayor cooperación entre las empresas estadounidenses y de reglas más severas contra China lleguen a tener fuerza de ley depende ahora del Congreso y de la evolución de las negociaciones en curso con el Gobierno de EE. UU. sobre "Fable 5".