Más de 100 empresas alertan sobre los riesgos cibernéticos de los agentes de IA

Propuesta estructurada del sector

Entre los firmantes se encuentran, según las publicaciones, varios grandes conglomerados tecnológicos y firmas de seguridad. Entre ellos se mencionan OpenAI, Anthropic y SAP. También están involucrados la comunidad de investigación y seguridad. La amplitud de la alianza pretende demostrar que los riesgos ya no afectan solo a sectores individuales, sino a toda la economía digital.

La preocupación se dirige principalmente a los agentes de IA, software que planifica y ejecuta tareas de forma autónoma. Mientras que las herramientas clásicas de automatización siguen reglas rígidas, estos agentes pueden tomar decisiones, combinar herramientas y adaptarse a nuevas situaciones. Precisamente estas propiedades los hacen, desde el punto de vista de los autores, interesantes para los atacantes, por ejemplo, para encontrar vulnerabilidades o para explotar de forma automatizada fallos de seguridad ya conocidos.

Jürgen Schmidt, experto en seguridad de una de las empresas participantes, declaró a periodistas que los mecanismos de defensa actuales están diseñados para amenazas estáticas. "Vemos ataques que suceden en minutos y no en días", dijo. Esto cambia las reglas del juego y exige otra velocidad en la detección y la respuesta.

Por qué los agentes de IA transforman la amenaza

Los autores de la carta señalan que los modelos de IA subyacentes son cada vez más potentes. Con ello, también crece el potencial de utilizarlos contra la propia infraestructura. Una temprana confrontación con posibles vulnerabilidades no es, por tanto, una opción, sino una necesidad. Al mismo tiempo, subrayan que esas mismas tecnologías también pueden usarse para la defensa.

Concretamente, los firmantes exigen, entre otras cosas, estándares de seguridad vinculantes para los agentes de IA, pruebas obligatorias antes del despliegue de tales sistemas y un mejor intercambio de información entre la investigación, las autoridades y la economía. Además, se debe ampliar significativamente la formación de profesionales en ciberseguridad para reducir la actual escasez de personal.

La carta también formula una presión temporal: la ventana de tiempo actual para desarrollar normas vinculantes e implementar medidas técnicas de protección es limitada. Si se desaprovecha, amenazará una fase en la que los ataques se escalen antes de que los sistemas de defensa puedan ponerse al día.

Demandas concretas a la política y a la economía

Los observadores consideran que la iniciativa es una de las reacciones más amplias del sector hasta la fecha frente a los riesgos cibernéticos específicos de la IA. En comparación con pronunciamientos anteriores, que solían proceder de empresas individuales o grupos de investigación, esta convocatoria agrupa a actores de la economía, la investigación y las autoridades de seguridad.

Los firmantes anunciaron que introducirán sus propuestas en los procesos políticos en las próximas semanas. Entre ellas se incluyen conversaciones con autoridades reguladoras y contribuciones a los procedimientos de normalización en curso. Sin embargo, aún está por ver cuán vinculantes serán tales estándares al final.

En una segunda etapa, la alianza pondrá en marcha proyectos piloto concretos para probar cómo se pueden supervisar y delimitar los agentes de IA en entornos controlados. Las conclusiones se incorporarán posteriormente a directrices públicas.

Proyectos piloto como próximo paso

En conjunto, los autores dibujan la imagen de una tecnología que amplifica tanto las oportunidades como los riesgos. Por ello, su llamado se dirige no solo a los responsables políticos, sino también, expresamente, a empresas de cualquier tamaño, para que revisen sus propias estrategias de IA y seguridad.