Meta retira la función de imágenes con IA Muse Image tras las protestas

El sindicato de actores estadounidense SAG-AFTRA intervino en el debate y pidió a sus miembros desactivar la función para proteger su propia imagen. Al mismo tiempo, actores y creativos conocidos con gran alcance utilizaron sus historias de Instagram para instar también a sus seguidores a prescindir de la función.

El caso plantea cuestiones fundamentales sobre el manejo de las funciones de IA en las redes sociales. Según la opinión de los expertos, las imágenes de acceso público no están automáticamente autorizadas para cualquier cadena de procesamiento. Las imágenes de referencia en estos sistemas actúan como material de entrenamiento adicional o como señales similares a prompts y afectan, por tanto, tanto a cuestiones legales como a cuestiones de consentimiento.

Privacidad y configuración por defecto en el foco

Otro aspecto se refiere al tema de la privacidad y la regulación. En el informe se mencionan los requisitos de transparencia del Reglamento General de Protección de Datos de la UE (RGPD) y la evaluación jurídica de los derechos de uso como procesos de cumplimiento relevantes para este tipo de funciones de IA. El caso demuestra que la Privacy by Design en las funciones de IA no debe aplicarse solo a posteriori, sino que debe considerarse desde el principio.

Otros grupos tecnológicos también están abordando el tema. Adobe destaca desde hace tiempo la transparencia sobre qué datos de entrenamiento se utilizan para Firefly. Google trabaja en paralelo con sus propias directrices para funciones de imagen generativa, que contemplan mecanismos de clasificación de contenidos y control por parte del usuario.

Señales para toda la industria a las plataformas de IA

En general, el caso subraya la creciente sensibilidad hacia las herramientas de imagen basadas en IA en las redes sociales. El hecho de que Muse Image se desactivara poco después de su lanzamiento es considerado por los observadores como una señal clara para el sector de prestar mayor atención a la configuración por defecto, la transparencia y los derechos de los usuarios en las funciones de IA.

Para los creativos afectados, la retirada de la función es una reacción a sus protestas. Sin embargo, sigue sin estar claro cómo Meta diseñará en el futuro experimentos comparables de IA y qué estándares aplicará la empresa en materia de transparencia y consentimiento.

El debate sobre Muse Image se produce en una fase en la que las autoridades reguladoras y las asociaciones del sector miran con mayor atención el manejo de la IA generativa en las grandes plataformas. Por ello, la interrupción de la función podría servir también, más allá del caso concreto, como punto de referencia para futuros procedimientos y debates políticos.