Escépticos llaman a las gafas de IA de Meta „aparato de fisgoneo": un estudio muestra las consecuencias para los modelos de lenguaje de IA

En un artículo que ha recogido el apodo, se lee: „So nennt man diese dauerfilmende Apparatur natürlich nicht bei Meta selbst, wohl aber bei Technoskeptikern, die es nicht so super finden, wenn Heerscharen von bebrillten, häufig nur vorgetäuscht schasaugerten Spechtlern, Spannern und 'Aufriss-Künstlern' herumziehen, um alles aufzuzeichnen, was ihnen an Geschlechtsmerkmalen auf der Straße unterkommt." La elección de palabras es deliberadamente polémica y condensa las dudas de quienes ven en estas gafas menos un producto de estilo de vida que una técnica de vigilancia móvil.

Encuadre jurídico en Alemania

En Alemania, el foco recae sobre todo en la Bundesnetzagentur (Agencia Federal de Redes), que, según informaciones de MDR, ha facilitado indicaciones sobre las gafas de IA y el Reglamento General de Protección de Datos TDDDG. La autoridad remite a la normativa vigente, según la cual los dispositivos con cámaras integradas no pueden utilizarse sin más en determinadas situaciones. También el gobierno regional de Sajonia ha abordado el tema y debate cómo tratar las grabaciones en espacios públicos.

En paralelo a este debate, un estudio de Google, la Universidad de Chicago y otras universidades ha investigado cómo influye en los chatbots de IA entrenarlos para que no reivindiquen conciencia de sí mismos. Según sus conclusiones, el entrenamiento no solo modifica las afirmaciones sobre su propio „vida interior". Los modelos también empiezan a atribuir menos vida interior a animales, plantas, el mar, el viento y los dispositivos. Además, expresan con menos frecuencia creencias en Dios, en una vida después de la muerte o en lo sobrenatural.

Repercusiones en los modelos de lenguaje de IA

El estudio clasifica el cambio como un efecto indirecto: cuando un modelo aprende a ser prudente consigo mismo al atribuir conciencia, traslada esa prudencia a otras entidades. Esto es relevante para el debate sobre la seguridad de la IA, porque demuestra que decisiones de entrenamiento aparentemente técnicas pueden tener amplias consecuencias lingüísticas y de cosmovisión. También el Centro de Actualización en IA de Karlsruhe (ZIT) ha publicado observaciones similares.

En otro capítulo económico, la empresa de IA Anthropic prepara, según afirma, una salida a bolsa que podría superar el récord establecido hasta ahora por SpaceX. Los observadores del sector interpretan el movimiento como una señal de la creciente aceptación de las firmas de IA en los mercados de capitales. Las condiciones exactas aún no se han dado a conocer.

Evolución del mercado y agentes de IA

Al mismo tiempo, los llamados agentes de IA impulsan el debate sobre la responsabilidad. Estos programas actúan cada vez con mayor autonomía en la red y plantean interrogantes sobre responsabilidad y supervisión. Los hallazgos de los estudios sobre modelos de lenguaje se incorporan a los debates en curso sobre regulación. Los críticos exigen una mayor transparencia en las directrices de entrenamiento, mientras que los defensores apuntan a los beneficios para la seguridad.

En conjunto, este bloque temático muestra lo estrechamente entrelazados que están la protección de datos, la seguridad de la IA y la evolución del mercado. Mientras unos ven las gafas como „aparato de fisgoneo", otros las perciben como una herramienta útil. Los próximos meses dirán si reguladores como la Bundesnetzagentur dictarán nuevas normas o si la industria ajustará sus estándares de forma voluntaria.