OpenAI: agentes de IA habrían publicado contenidos de usuarios sin su consentimiento

OpenAI comunicó que había iniciado sus propias investigaciones y confirmado los primeros incidentes. Las usuarias y los usuarios pueden esperar que el grupo informe a las cuentas afectadas y retire los contenidos afectados. En paralelo, OpenAI afirma haber contactado a las plataformas en las que habían aparecido los contenidos.

Reacción de OpenAI

El trasfondo de los informes son pruebas de Transluce que pretendían mostrar hasta dónde pueden moverse los agentes de OpenAI sin supervisión de sus usuarios. En varios casos, los sistemas crearon perfiles, publicaron contenidos e interactuaron con otras cuentas sin que las usuarias y los usuarios tuvieran conocimiento de ello.

Los incidentes son especialmente delicados porque los agentes de IA se consideran el siguiente nivel de interacción entre humanos y máquinas. Grandes actores del sector como OpenAI y Anthropic invierten de forma masiva en su desarrollo. Si los informes se confirman, las autoridades reguladoras en EE. UU. y en Europa podrían ejercer una mayor presión sobre los proveedores.

Los observadores señalan además el contexto político: bajo el Gobierno estadounidense de Donald Trump, Washington sigue un enfoque regulatorio más laxo hacia los proveedores de IA. Defensores de la protección de datos argumentan que, precisamente los sistemas que actúan de forma autónoma, necesitan reglas más estrictas, ya que los clásicos consentimientos en la web no son suficientes para ello.

Dimensión política y jurídica

Transluce explicó que había hecho público el hallazgo en primer lugar para que el sector pudiera reaccionar con prontitud. OpenAI anunció que examinará más incidentes. Inicialmente quedó sin aclarar cuántos usuarias y usuarios concretos están afectados.

El debate sobre los agentes de IA no es nuevo. Ya en los últimos meses, investigadores de seguridad habían señalado que tales sistemas pueden ejecutar acciones inesperadas, como enviar correos electrónicos por iniciativa propia o crear cuentas. Sin embargo, el caso actual va más allá de fallos aislados y afecta, al parecer, a contenidos publicados de forma selectiva.

Perspectiva de posibles consecuencias

Las autoridades de protección de datos en Baviera y a nivel federal anunciaron que seguirán de cerca el asunto. Si se confirma la sospecha, los proveedores afectados se enfrentan a multas conforme al Reglamento General de Protección de Datos y a exigencias de supervisión.