Anthropic anuncia una marca de agua invisible para los textos de Claude – Críticos advierten sobre falsos positivos

„Das US-Unternehmen Anthropic hat angekündigt, Texte seines Chatbots Claude mit einem unsichtbaren Wasserzeichen zu versehen, um den EU-Vorgaben zum Umgang mit künstlicher Intelligenz (KI) zu entsprechen“, heißt es in dem Bericht. Según los expertos, el procedimiento se basa en patrones estadísticos en la elección de palabras, invisibles para los lectores humanos pero legibles para los correspondientes programas de verificación.

Así funciona la marca de agua

Sin embargo, críticos advierten de un efecto contrario. Dado que la marca de agua actúa a nivel de palabras y formulaciones individuales, también puede afectar a textos humanos que posteriormente solo hayan sido revisados en parte por una IA. „Benutzer, die zum Beispiel ihren selbstgeschriebenen Text zur Überarbeitung an die KI geben, werden künftig mit dem Risiko leben müssen, dass ihre Texte komplett als KI-Erzeugnis gebrandmarkt werden – auch wenn über den ganzen Text hinweg nur an einzelnen Formulierungen und Wörtern gefeilt wurde“, warnt der Bericht.

De este modo, aumenta para autores, estudiantes y periodistas el riesgo de que sus obras sean clasificadas erróneamente como producto de la IA, con posibles consecuencias para la calificación, los derechos de autor y la credibilidad. También podrían verse afectados los flujos de trabajo editoriales en los que la IA solo se utiliza como ayuda de revisión.

Reacciones de proveedores y Bruselas

Anthropic pertenece a un grupo de grandes proveedores que han reaccionado en los últimos meses a las normas de la UE. Además del consorcio estadounidense, Microsoft y la empresa francesa Mistral también han anunciado o ya implementado etiquetados similares. Bruselas observa de cerca la aplicación y se reserva la posibilidad de tomar nuevas medidas si no se cumplen los requisitos.

La medida llega apenas un día después de que en varios informativos se difundieran otras noticias del mundo, entre ellas operaciones de rescate tras un terremoto en Colombia, una erupción del volcán Etna con cancelaciones de vuelos en Sicilia, la desactivación de bombas aéreas en Neu-Ulm, una iniciativa del Bundesrat de Baja Sajonia sobre estrellas infantiles en los medios, partes meteorológicos de Baviera y más medallas de deportistas alemanes.

La Comisión Europea subraya que la obligación de etiquetado forma parte de un amplio paquete de regulación de la IA. El objetivo es proteger a las consumidoras y los consumidores del engaño y, al mismo tiempo, no ahogar la innovación.

Qué significa el etiquetado para los usuarios

Anthropic declaró que implementará la marca de agua de forma gradual y, al mismo tiempo, trabajará en procedimientos que reduzcan las clasificaciones erróneas de textos humanos. Entidades de verificación independientes controlarán en los próximos meses la tasa de acierto de la detección.

Observadores ven en el debate un conflicto fundamental: por un lado, los contenidos generados por IA deben ser reconocibles sin lugar a dudas; por otro, el marcado no debe convertirse en una herramienta que ponga bajo sospecha general a la escritura honesta.