Anthropic pide una pausa global en el desarrollo de IA de vanguardia

Para que una pausa tenga un efecto real, según Anthropic, las principales corporaciones de IA de varios países, especialmente de EE. UU. y China, tendrían que acordar ralentizar o pausar su trabajo simultáneamente. Al mismo tiempo, la empresa advirtió: "Si una sola empresa pausara por sí sola, sus competidores simplemente la superarían".

Requisitos para una pausa efectiva

Además, para una pausa coordinada de este tipo se necesitarían reglas vinculantes. Para ello, habría que establecer y cumplir reglas "que fueran verificables para todos", continuó Anthropic. La empresa subrayó que los compromisos voluntarios de autorregulación de empresas individuales no serían suficientes por sí solos.

Anthropic es una empresa estadounidense con sede en San Francisco especializada en inteligencia artificial. La empresa es conocida principalmente por su chatbot Claude, que es utilizado predominantemente por empresas. El lunes, Anthropic también presentó la documentación para una oferta pública inicial (OPI).

Mythos – Herramienta de seguridad con doble naturaleza

Paralelamente a la exigencia de una pausa global, Anthropic está trabajando en un modelo de IA llamado Mythos. Este sistema está diseñado para detectar vulnerabilidades en sistemas informáticos. Tanto las autoridades estadounidenses como la UE han manifestado interés en un acceso de prueba para poder evaluar posibles riesgos.

Sin embargo, estos planes también generan preocupaciones. Los servicios de inteligencia alemanes y los políticos de seguridad han advertido que los delincuentes o actores estatales podrían abusar de Mythos para ciberataques. El doble uso de tales herramientas de seguridad, por un lado para la defensa y por otro como posible arma, está en el centro del debate.

Conflicto con el Pentágono

Además, Anthropic se encuentra actualmente en una disputa legal con el Departamento de Defensa de EE. UU. El trasfondo es la negativa de la empresa a permitir el uso militar ilimitado de su tecnología de IA. Anthropic declaró que no quería que la IA se utilizara para la "vigilancia masiva interna" o en sistemas de armas totalmente autónomos.

El Pentágono considera ahora a Anthropic un riesgo de seguridad en la cadena de suministro, una clasificación que la empresa está impugnando judicialmente. Esto convierte a la corporación en una de las pocas empresas de IA que se oponen abiertamente a un uso militar integral de su tecnología y que llevan este conflicto a los tribunales.

Contexto político

Con la exigencia de una pausa mundial, Anthropic se posiciona al mismo tiempo como un advertidor en un debate que se ha desarrollado durante meses entre corporaciones tecnológicas, gobiernos y autoridades de seguridad. Si la idea de una ralentización coordinada tiene posibilidades políticas es incierto por el momento. La iniciativa es considerada inusual por los observadores, ya que la propia empresa está trabajando en un modelo de alto rendimiento con Mythos y al mismo tiempo busca una oferta pública inicial.

En general, la declaración muestra el dilema en el que se encuentra Anthropic: la empresa desarrolla modelos de IA de alto rendimiento, al mismo tiempo advierte contra su difusión incontrolada y mantiene un conflicto de principios con el Pentágono sobre el uso militar. La exigencia de una pausa coordinada internacionalmente podría aumentar la presión sobre otras corporaciones de IA, así como sobre los gobiernos de EE. UU., China y la UE, para que se comprometan a auto-restricciones similares.