Anthropic propone pausa en IA: riesgo de perder el control | noticias360
Anthropic advierte de la pérdida de control sobre la inteligencia artificial y propone una moratoria coordinada
San Francisco, 05 de junio de 2026
AI-generated image (flux-2/pro-text-to-image via Kie.ai)
Summary
La empresa de inteligencia artificial Anthropic ha propuesto la posibilidad de ralentizar o pausar el desarrollo de modelos de IA especialmente avanzados, advirtiendo del riesgo de perder el control sobre sistemas capaces de autooptimizarse. La iniciativa, que requiere consenso entre los principales desarrolladores, incluida China, se enfrenta a escepticismo en la industria y en la Casa Blanca.
San Francisco, 05 de junio de 2026
La empresa estadounidense de inteligencia artificial Anthropic ha propuesto la creación de un mecanismo internacional que permita ralentizar o pausar el desarrollo de modelos de IA especialmente avanzados, advirtiendo de que la humanidad podría perder el control sobre estos sistemas si alcanzan antes de tiempo la capacidad de mejorarse a sí mismos.
En una entrada de blog publicada esta semana, Anthropic, desarrolladora del conocido chatbot Claude, propuso formalmente la opción de que la comunidad global disponga de un mecanismo para frenar temporalmente el avance de los sistemas de inteligencia artificial más avanzados. Según la empresa, esta posibilidad sería "wahrscheinlich sinnvoll" para dar tiempo a la sociedad a adaptarse.
La iniciativa surge en un momento de creciente preocupación dentro y fuera de la industria. Anthropic advirtió de que si los modelos de IA llegan a ser capaces de autooptimización, el riesgo de que los humanos pierdan el control sobre la inteligencia artificial aumentará. La compañía sostiene que ese hito podría alcanzarse más rápido de lo que muchas instituciones están preparadas para gestionar.
Una advertencia sobre la autooptimización
En palabras textuales de la empresa, "Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können". Es decir, que las estructuras sociales y la investigación sobre alineación puedan mantener el ritmo del progreso tecnológico.
No obstante, Anthropic reconoce que una medida de este tipo solo sería eficaz si los principales desarrolladores de IA a nivel mundial —especialmente en Estados Unidos y China— acuerdan simultáneamente una ralentización. "Es müssten Regeln etabliert und befolgt werden, die für alle überprüfbar wären", señala la empresa, en referencia a la necesidad de normas verificables para todos los participantes.
El requisito del consenso internacional
La compañía rechaza explícitamente las pausas unilaterales, argumentando que estas solo cambiarían quién lidera la carrera. Según Anthropic, los pasos individuales de una sola empresa tendrían poco efecto y podrían limitarse a otorgar ventaja a otros actores. La entrada de blog afirma: "Wir glauben, dass es gut für die Welt wäre, die Option zu haben, die Entwicklung besonders fortgeschrittener Modelle zu verlangsamen oder zu pausieren".
El director ejecutivo de Anthropic, Dario Amodei, ya había expresado su escepticismo sobre la viabilidad de una moratoria. En el Foro Económico Mundial de Davos, en enero, Amodei aseguró que "der KI-Wettlauf mit China eine Verlangsamung der Entwicklung sehr stark erschwere, da es kaum eine durchsetzbare Vereinbarung geben könne". Esta postura ilustra la tensión interna entre la voluntad de regular y las presiones competitivas del sector.
Escepticismo de la Casa Blanca
La empresa se ha pronunciado reiteradamente a favor de una regulación más estricta del sector de la IA para prevenir riesgos. Anthropic también defiende una pausa global en el desarrollo de sistemas cada vez más potentes, una postura que la ha colocado en una posición singular dentro de la industria estadounidense.
Sin embargo, esta postura reguladora le ha generado fricciones políticas. La Casa Blanca, bajo el mandato del presidente Donald Trump, acusó a Anthropic de que su enfoque regulatorio frenaría a la industria estadounidense en la competencia global. La crítica refleja la creciente pugna entre quienes piden cautela y quienes priorizan el liderazgo tecnológico de Estados Unidos.
Paralelamente, Anthropic ha atraído la atención con su software Claude Mythos Preview, que descubrió vulnerabilidades de seguridad en diversos programas, algunas de las cuales habían permanecido ocultas durante décadas. La compañía también trabaja en un modelo de IA llamado Mythos, diseñado específicamente para detectar lagunas en sistemas de ciberseguridad.
Expansión comercial y salida a bolsa
En el plano comercial, Anthropic atraviesa un momento de gran expansión. El mes pasado cerró una ronda de financiación que valoró a la empresa en 965.000 millones de dólares, y este lunes presentó de forma confidencial una solicitud para una oferta pública inicial en Estados Unidos. Estas cifras dan cuenta del tamaño y la influencia creciente de la compañía en el sector.
La entrada de blog subraya que el detonante de la iniciativa es el rápido progreso de los modelos de IA, en particular en su capacidad de autooptimización y autodesarrollo. Anthropic teme que futuros sistemas de IA puedan mejorar de forma recursiva a un ritmo superior al que la sociedad y la investigación puedan controlar los riesgos asociados.
Según datos citados por la propia empresa, en mayo más del 80 por ciento del código en su propia base de código fue generado por el modelo Claude, un indicio del grado de autonomía que las herramientas de IA ya han alcanzado en el seno mismo de las organizaciones que las desarrollan.
El instituto interno de Anthropic trabajará en paralelo con otras entidades en el desarrollo de enfoques técnicos que permitan una ralentización controlada, incluido un sistema de monitoreo que garantice el cumplimiento de una posible moratoria y evite que ningún participante obtenga ventajas secretas.
Próximos pasos: diálogos y mecanismos técnicos
La empresa anunció que en los próximos meses mantendrá conversaciones con responsables políticos, investigadores, grupos de la sociedad civil y otras compañías de IA. El objetivo es esclarecer cuestiones clave, como el tratamiento de riesgos derivados de sistemas autooptimizantes y la mejora de la coordinación internacional.
En el ámbito europeo, la Unión Europea espera obtener acceso de prueba a la tecnología de IA de Anthropic para evaluar posibles riesgos. Esta vía se suma a los esfuerzos regulatorios del bloque, que busca posicionarse como referente en la gobernanza de la inteligencia artificial a nivel mundial.
Disputa legal con el Pentágono
Mientras tanto, Anthropic mantiene un litigio con el Departamento de Defensa de Estados Unidos. La disputa gira en torno al uso militar sin restricciones de su tecnología de IA, que la compañía ha negado al Pentágono. Anthropic ha declarado que no desea que su IA se emplee para "Massenüberwachung im Inland" ni en sistemas de armas completamente autónomos.
Tras la negativa, el Pentágono clasificó a Anthropic como "Sicherheitsrisiko in der Lieferkette". La empresa ha emprendido acciones legales para impugnar esta clasificación, en un caso que ilustra los límites que la compañía intenta establecer al uso de sus productos.
En definitiva, la propuesta de Anthropic llega en un contexto de inversiones masivas en infraestructura de IA, con planes de cientos de miles de millones de dólares en centros de datos. La empresa insiste en que, sin reglas comunes verificables, una pausa no será posible y el riesgo de perder el control sobre la tecnología seguirá creciendo.
Questions & Answers
¿Qué ha propuesto exactamente Anthropic sobre el desarrollo de la inteligencia artificial?
Anthropic ha propuesto crear un mecanismo internacional que permita ralentizar o pausar el desarrollo de modelos de IA especialmente avanzados, con el fin de dar tiempo a la sociedad y a la investigación de alineación a adaptarse al progreso tecnológico.
¿Por qué Anthropic considera urgente esta iniciativa?
La empresa advierte de que los modelos de IA podrían alcanzar la capacidad de autooptimización más rápido de lo que las instituciones están preparadas, lo que aumentaría el riesgo de que los humanos pierdan el control sobre estos sistemas.
¿Qué obstáculos enfrenta la propuesta de moratoria de Anthropic?
Anthropic reconoce que una pausa solo sería eficaz con el consenso de los principales desarrolladores, incluidos Estados Unidos y China, y que las pausas unilaterales solo cambiarían quién lidera la carrera. La Casa Blanca, bajo el mandato de Donald Trump, acusó además a la empresa de frenar la competitividad estadounidense.
