Más de 1.100 empleados de grandes empresas de IA piden un límite de velocidad para la Inteligencia Artificial

Los firmantes provienen precisamente de empresas que hasta ahora se consideran impulsoras de un desarrollo acelerado de la IA. OpenAI, la empresa detrás de ChatGPT, así como Anthropic, Google y Meta llevan años invirtiendo miles de millones en modelos cada vez más potentes. La postura ahora documentada desde las propias plantillas sugiere que partes de los empleados perciben riesgos que quieren hacer visibles públicamente. En las últimas semanas, las advertencias sobre los riesgos de la IA también habían aumentado por parte de voces destacadas como Sam Altman, quien como líder del sector de la IA había reclamado en reiteradas ocasiones estándares internacionales.

Observadores valoran el paso colectivo como una señal excepcional dentro de la industria tecnológica, en la que los empleados rara vez se posicionan públicamente en contra de su propia dirección. Fuentes del sector señalan que la industria tecnológica en su conjunto ha publicado 15 informes y evaluaciones sobre el proceso. Los autores no facilitan información precisa sobre el círculo exacto de los firmantes ni sobre su ubicación jerárquica dentro de las respectivas empresas.

Contexto: ¿Qué significa «desarrollo automatizado de IA»?

Tras el concepto de «desarrollo automatizado de IA» se esconde un escenario en el que los sistemas de IA podrán en el futuro desarrollar de forma autónoma mejores sistemas de IA. Los defensores lo ven como un posible impulso a la productividad; los críticos advierten de que ello podría provocar la pérdida de control sobre la dirección tecnológica. El llamamiento conjunto apunta a que este desarrollo no se lleve a cabo en una competencia no regulada, sino bajo supervisión democrática.

Qué medidas concretas proponen los firmantes no se ha publicado en detalle hasta ahora. También queda abierto qué Gobiernos, fuera de EE. UU., deberían sumarse a la iniciativa. En los últimos meses, varios representantes del sector habían propuesto estándares internacionales siguiendo el modelo de los organismos de control nuclear, sin que se alcanzara un acuerdo vinculante.

Debate previo sobre seguridad y contexto geopolítico

El debate sobre la seguridad de la IA no es nuevo. En los últimos años, investigadores, expertos en ética y partes de la industria advirtieron sobre posibles riesgos como la pérdida de control humano, el uso para desinformación o una distorsión de los mercados existentes. La carta abierta procedente de las filas de las empresas desarrolladoras da ahora más fuerza a estas preocupaciones desde una fuente inusualmente directa: los propios empleados que participan de forma determinante en el desarrollo.

Si el Gobierno de EE. UU. se sumara a la iniciativa, esto podría afectar a la competitividad de los gigantes tecnológicos estadounidenses frente a China, que persigue el desarrollo de la IA como objetivo estratégico de Estado. Los observadores ven en la exigencia un difícil equilibrio entre preocupaciones de seguridad y rivalidad geopolítica en el ámbito de la tecnología punta.

Cuándo y en qué forma se puede esperar una respuesta desde Washington sigue abierto por el momento. Tampoco se ha anunciado de qué manera los firmantes y firmantes piensan acompañar públicamente su llamamiento más allá de la carta. Lo que está claro es que la declaración aumenta la presión sobre los responsables políticos y los organismos reguladores para que aborden la cuestión de controles medibles de la IA.