Los Estados miembros de la UE aprueban la prohibición de la IA deepfake sexualizada

„In der EU sind KI-Anwendungen zur missbräuchlichen Erstellung sexualisierter Deepfakes künftig verboten“, señala el comunicado. „Das neue Verbot soll aber explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen.“ De este modo, la norma va más allá de las disposiciones penales existentes, porque obliga no solo a los usuarios, sino también a los proveedores de las herramientas digitales.

En qué consiste la prohibición

„Das neue Verbot soll die bisherigen Regeln ergänzen, indem es neben den Nutzenden auch die Anbieter der entsprechenden digitalen Werkzeuge ins Visier nimmt“, explicó la Presidencia del Consejo. La aplicación deberá liderar la Oficina de IA de la UE. „Das KI-Amt der EU soll das Verbot federführend durchsetzen“, se indicó. La medida se había considerado una formalidad tras el acuerdo con el Parlamento Europeo.

Concretamente, la dpa mencionó casos en los que ya se han producido daños considerables. „Bikini-Bilder auf X oder gefälschte Nacktbilder von Stars: Sexualisierte Deepfakes haben schon viel Schaden angerichtet.“ En el debate también se encuentran grabaciones no consentidas generadas por la IA Grok y difundidas a través de la plataforma X. Según el estado actual, estas imágenes de bikini no consentidas podrían, no obstante, seguir siendo legales.

Quedan expresamente excluidas de la prohibición las caricaturas satíricas. „Satirische Karikaturen sollen also ausgenommen bleiben“, declararon los negociadores. Con ello se pretende preservar la libertad de expresión y artística, sin debilitar la protección frente a la violencia digital sexualizada.

Excepciones y vacíos legales

En paralelo, el Consejo pospuso otros requisitos de la ley europea de IA. „An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten“, informó la dpa. De este modo, los proveedores de grandes sistemas de IA ganan casi medio año adicional para cumplir, por ejemplo, con obligaciones de transparencia y documentación.

Al mismo tiempo, se pretende aliviar a la economía. „Weitere Änderungen am KI-Gesetz sollen der KI-Branche zunächst zusätzliche Pflichten ersparen und auch die Anwendung von Künstlicher Intelligenz in der Wirtschaft erleichtern“, se indicó. En los últimos meses, las asociaciones empresariales habían advertido sobre el exceso de burocracia.

Más modificaciones a la Ley de IA

Además, se refuerzan las obligaciones de etiquetado. „Spätestens dann sollen die Anbieter KI-Inhalte etwa deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also etwa mit Wasserzeichen markieren“, explicó la Presidencia del Consejo. El objetivo es que las consumidoras y los consumidores puedan identificar qué contenidos han sido generados por máquinas.

Activistas de derechos humanos y organizaciones de protección de la infancia acogieron con satisfacción la prohibición de las herramientas de deepfake sexualizado, pero pidieron mejoras. Señalaron que las representaciones no consentidas podrían seguir siendo legales, a pesar de que con frecuencia sirven como puerta de entrada a la violencia digital. La Comisión Europea anunció que evaluará el impacto de la norma en los próximos años.

Reacciones y próximos pasos

Con la aprobación formal de los Estados miembros comienza ahora la fase de implementación. Hasta diciembre de 2026, las autoridades nacionales deberán adoptar medidas para que puedan imponerse sanciones y la retirada del acceso al mercado contra los proveedores de tales aplicaciones de IA. La Oficina de IA de la UE elaborará, al mismo tiempo, directrices para la aplicación de la nueva norma prohibitiva.

Los observadores valoran la decisión como una señal política en la lucha contra la violencia digital sexualizada. La combinación de una prohibición de herramientas y proveedores, una obligación reforzada de etiquetado y un aplazamiento de las obligaciones relacionadas con la economía se considera un compromiso que, por un lado, protege a las víctimas y, por otro, no frena la innovación.