TITULAR: Anthropic pide una pausa global en el desarrollo de la IA y advierte sobre sistemas de auto-mejora

Según la empresa, el desencadenante de la iniciativa es el rápido progreso de los modelos de IA actuales, especialmente en sus capacidades de auto-mejora y desarrollo posterior. Anthropic advierte que el hito de una IA que se entrena a sí misma y se vuelve más inteligente podría alcanzarse más rápido de lo que muchas instituciones están preparadas. Los datos internos de la empresa muestran que podría surgir un sistema de IA que se desarrolle en gran medida por sí mismo, sin ayuda humana, un escenario que Anthropic describe como "auto-optimización recursiva". Aunque este escenario no es inevitable, los riesgos son considerables.

La auto-mejora como desencadenante

Al mismo tiempo, Anthropic subraya que un renuncia unilateral por parte de su propia empresa tendría poco efecto. Una pausa unilateral es fácilmente posible, pero solo daría tiempo a otros actores para ponerse al día tecnológicamente. Para un freno eficaz, los principales laboratorios de IA en EE. UU., China y otros países tendrían que ralentizar o interrumpir su trabajo simultáneamente, y aceptar reglas vinculantes y verificables para todos.

Como ejemplo histórico, Anthropic se refiere al Tratado INF sobre desarme nuclear entre EE. UU. y Rusia de 1987, que demuestra que la regulación de tecnologías complejas es fundamentalmente posible, aunque el tratado fue denunciado por ambas partes en 2019 y su elaboración duró décadas. El CEO de Anthropic, Dario Amodei, ya había declarado a principios de año en el Foro Económico Mundial de Davos que la carrera armamentista de la IA con China hacía difícil ralentizar el desarrollo, ya que un acuerdo vinculante apenas sería aplicable.

Conversaciones previstas y mecanismos de control

En concreto, Anthropic planea organizar rondas de conversaciones en los próximos meses con representantes de la política, la investigación, la sociedad civil y otras empresas de IA. El objetivo es un mecanismo de coordinación internacional que garantice una ralentización creíble entre estados y empresas. Además, el instituto de investigación interno trabajará con otros actores en un sistema de supervisión que debería dar a los desarrolladores la seguridad de que todos los participantes siguen una pausa y que nadie obtiene secretamente una ventaja. También se impulsará la investigación de sistemas de seguridad técnica para un freno global de la IA.

En la entrada de blog, Clark y Favaro también exponen observaciones internas sobre el rendimiento de Claude. En febrero de 2025, la proporción de código escrito por Claude en la base de código interna de la empresa era inferior al uno por ciento, y en mayo superaba el 80 por ciento. Por trimestre, los desarrolladores de Anthropic entregan ahora una media de ocho veces más código gracias a la IA que en el periodo de 2021 a 2025. La frecuencia con la que los empleados tienen que corregir las salidas de Claude o intervenir manualmente ha disminuido constantemente, incluso en tareas abiertas sin directrices claras.

El creciente papel de Claude en su propio código

Además, muchos empleados de Anthropic opinan que el código escrito por Claude a finales de 2025 era de menor calidad que el escrito por humanos, pero que ahora está a la par. Clark y Favaro esperan "que sea mejor a lo largo del año". Una vez que la calidad del código escrito por IA y por humanos esté a la par, los humanos ya no escribirán código, sino que se centrarán exclusivamente en su revisión. Sin embargo, los autores admiten que la IA sigue siendo un ayudante capaz sin juicio humano y sin decisiones humanas, y no está claro si los métodos y arquitecturas de entrenamiento actuales podrían alcanzar el potencial humano.

Anthropic a menudo actúa como una voz de advertencia en la industria y ha abogado repetidamente por una regulación más estricta de la industria de la IA. La Casa Blanca, bajo el presidente Donald Trump, ha acusado a la empresa de frenar a la industria estadounidense en la competencia global con su postura regulatoria. Anthropic también se negó a autorizar al Pentágono para el uso de sus modelos en ciertos casos de aplicación militar; la empresa no quiere que su IA se utilice para la vigilancia masiva interna o en sistemas de armas totalmente autónomos. El gobierno de EE. UU. calificó entonces a Anthropic como un "riesgo de seguridad en la cadena de suministro", contra lo cual la empresa está emprendiendo acciones legales.

Viento en contra político y disputa con el Pentágono

El impulso recuerda una iniciativa anterior de marzo de 2023, cuando una carta abierta pedía una pausa forzada en el desarrollo de los modelos de IA más potentes, advirtiendo de graves consecuencias de la tecnología para la humanidad. Más de 1.000 personas de la investigación y la economía habían firmado, entre ellas Elon Musk y Steve Wozniak. Musk, junto con el Future of Life Institute, que cofinancia, abogó por una moratoria de seis meses. Más tarde se supo que Musk estaba impulsando simultáneamente la creación de su propia empresa de IA. El Future of Life Institute aboga por la regulación de los desarrollos tecnológicos peligrosos, pero los críticos lo ven como ciego a los peligros ya existentes.

Actualmente, no se observa ninguna disposición a una pausa en el desarrollo en la industria. Los grandes conglomerados de IA se superan con planes de inversión de cientos de miles de millones de dólares en infraestructura, como enormes centros de datos. Estas instalaciones consumen cantidades considerables de electricidad y agua para su funcionamiento y refrigeración. Una encuesta a principios de año mostró que la mayoría de los ciudadanos estadounidenses rechazan la construcción de un centro de datos en su comunidad. El estado de Nueva York aprobó una ley que prevé una paralización de la construcción de nuevos centros de datos durante un año; tras la expiración del plazo, se celebrará una reunión pública para cada nueva solicitud antes de que pueda concederse un permiso. La ley aún debe ser firmada por la gobernadora demócrata Kathy Hochul.

Condiciones económicas y planes de cotización en bolsa

Anthropic causó recientemente revuelo con el software Claude Mythos Preview, que detectó vulnerabilidades de seguridad en varios programas, algunas de las cuales habían permanecido sin descubrir durante décadas. En su presentación, la empresa limitó inicialmente el acceso a un pequeño círculo de empresas y autoridades estadounidenses, ya que Mythos era "demasiado bueno" para encontrar vulnerabilidades como para hacerlo disponible públicamente. Ahora, las instituciones de Europa también pueden acceder a él. A finales de junio, Anthropic presentará un informe sobre las lagunas descubiertas.

Financieramente, Anthropic se encuentra actualmente en una posición sólida: tras la última ronda de financiación, la empresa está valorada en 965.000 millones de dólares, superando a su rival OpenAI. El lunes anterior a la publicación de la entrada de blog, Anthropic también solicitó confidencialmente a la Comisión de Bolsa y Valores de EE. UU. (SEC) la salida a bolsa, adelantándose así a OpenAI en la carrera por la cotización. El CEO de OpenAI, Sam Altman, ha revisado recientemente su anterior pronóstico de que la IA sustituiría ampliamente a las personas y provocaría despidos masivos; ha sobreestimado el impacto en el mercado laboral.

El debate sobre un freno global de la IA probablemente ganará impulso en los próximos meses, aunque no está claro si los grandes laboratorios llegarán a un acuerdo sobre reglas vinculantes. Anthropic afirma: Si existieran sistemas de seguridad verificables, "probablemente ralentizaríamos o haríamos una pausa temporal", pero solo si otros desarrolladores con el mismo nivel tecnológico hicieran lo mismo de forma demostrable.

La noticia se emitió el 05.06.2026 en el programa Deutschlandfunk.