Los modelos de Claude de Anthropic ahora incorporan marcas de agua invisibles en los textos generados por IA y metadatos de procedencia firmados en los archivos, una medida efectiva desde el 2 de agosto.
Esta política global, que no permite desactivarla, está impulsada en gran medida por el artículo 50 de la Ley de IA de la Unión Europea (EU AI Act), que establece requisitos de transparencia para los contenidos generados por IA.
La marca de agua textual modifica sutilmente la elección de palabras de Claude, creando patrones que pueden detectarse cuando se analiza una cantidad suficiente de contenido. Además, la marca permanece cuando el texto se copia.
En el caso de los archivos, los metadatos basados en el estándar C2PA indican la participación de Claude y ayudan a detectar posibles manipulaciones.
Aunque Anthropic defiende la medida como una herramienta de transparencia, los usuarios han expresado fuertes objeciones. Entre ellas, el temor a que sus propios trabajos sean identificados como generados por IA, posibles acusaciones erróneas y la falta de detalles técnicos sobre cómo funciona exactamente el sistema.
Anthropic ha prometido ofrecer herramientas de detección y documentación adicional sobre su implementación.
Si has estado utilizando Claude para redactar cualquier tipo de texto, ese contenido ahora llevará una marca de agua invisible que no puedes ver, al menos por ahora.
A principios de esta semana, Anthropic publicó una página de soporte en la que explica que los modelos de Claude lanzados a partir del 2 de agosto incorporan una marca de agua invisible en cada fragmento de texto que generan.
«A medida que el contenido generado por IA se vuelve cada vez más habitual, una mayor transparencia y señales sobre el origen del contenido pueden ofrecer a las personas un contexto útil sobre la información que consumen», señaló la compañía.
Las imágenes, los archivos SVG y otros formatos recibirán un tratamiento algo diferente.
«Cuando Claude genera un tipo de archivo compatible, como un .svg, .png o .jpg, añadirá metadatos de procedencia firmados», explicó Anthropic.
Estos metadatos seguirán el estándar abierto de la Coalition for Content Provenance and Authenticity (C2PA), el mismo sistema utilizado por Google y Adobe. Cuando un archivo contiene una etiqueta de metadatos firmada, esta indica que Claude ha intervenido en su procesamiento y permite detectar si el archivo ha sido manipulado posteriormente.
Las marcas se aplican a todas las plataformas desde las que se utiliza Claude, incluida su API, Claude Code, Claude Cowork y las implementaciones a través de AWS, Google Cloud y Microsoft Foundry.
Los modelos antiguos también recibirán esta función, aunque Anthropic todavía no ha establecido un calendario para su implementación.
La ley de la UE
El detonante de esta medida es el artículo 50 de la Ley de IA de la Unión Europea (EU AI Act), que entró en vigor el 2 de agosto y exige a los proveedores de IA generativa marcar específicamente los contenidos generados por IA en formatos legibles por máquinas. El objetivo es que los usuarios posteriores, los reguladores y las plataformas puedan determinar si un contenido ha sido generado por inteligencia artificial.
Las multas por incumplimiento pueden alcanzar 15 millones de euros o el 3% de la facturación anual mundial total de una empresa, lo que sea mayor.
Anthropic también firmó el Código de Buenas Prácticas de la UE sobre Transparencia de los Contenidos Generados por IA, un marco voluntario de cumplimiento que establece una presunción de conformidad con los requisitos del artículo 50.
A finales de julio, casi 200 empresas habían firmado el código, entre ellas Microsoft, Google, Meta y OpenAI.
Google lleva incorporando marcas de agua a sus imágenes generadas por IA desde 2023 y ha extendido el sistema a texto, audio y vídeo. Elon Musk y su empresa xAI no han firmado el código de la UE.
Mientras tanto, OpenAI tendría desde hace años la capacidad de aplicar marcas de agua al texto generado por ChatGPT, pero no lo ha hecho. Informaciones de The Wall Street Journal atribuyeron esa decisión a preocupaciones como los falsos positivos y el riesgo competitivo. La decisión de Anthropic podría hacer que eso cambie.
¿Cómo funciona?
Curiosamente, Anthropic está aplicando este requisito a nivel mundial, no solo a los usuarios de Claude en la Unión Europea.
La marca de agua textual funciona modificando estadísticamente la elección de palabras de Claude de acuerdo con una clave que mantiene Anthropic. Cada elección individual parece normal, pero al analizar una cantidad suficiente de texto, el patrón puede detectarse.
«Como la marca de agua forma parte del texto, viajará con él cuando se copie y pegue en otro lugar y puede persistir incluso después de determinadas ediciones», explicó la compañía. «La marca de agua se aplicará a nivel del modelo, lo que significa que estará presente independientemente del producto o plataforma de Claude desde la que proceda el texto».
En los archivos, como se explicó anteriormente, los metadatos C2PA funcionan de otra manera: se incorpora al archivo un registro digital firmado de su procedencia. Esta firma puede comprobarse para verificar si el archivo ha sido manipulado desde que Claude lo generó.
Sin embargo, los metadatos pueden eliminarse al volver a guardar el archivo o convertirlo a otro formato. Por eso, ambos sistemas están diseñados para complementarse.
Anthropic también ha anunciado que lanzará herramientas de detección para que usuarios y terceros puedan comprobar si un texto o archivo contiene una marca de agua de Claude.
Hay un matiz importante: detectar una marca de agua significa que el contenido puede haber sido evaluado o procesado por Claude, no necesariamente que Claude lo haya escrito. Una persona que utilice Claude para corregir, traducir o resumir su propio trabajo podría generar un contenido marcado, aunque el texto original sea suyo.
La marca indicaría que Claude intervino en el contenido, no que Claude lo creó.
Del mismo modo, la ausencia de una marca de agua tampoco confirma que un contenido haya sido escrito por una persona. No habrá una señal detectable en contenidos generados por modelos antiguos, fragmentos muy cortos, textos reformulados en profundidad o archivos cuyos metadatos hayan sido eliminados mediante capturas de pantalla o cambios de formato.
No exenta de polémica
La medida ha generado varias objeciones por parte de abogados, académicos, investigadores y escritores que utilizan Claude para copiar, editar o revisar trabajos que son sustancialmente propios y que ahora podrían llevar una marca de contenido generado por IA con la que no están de acuerdo.
Una de las principales críticas tiene que ver con las acusaciones potencialmente engañosas. Un archivo escrito por una persona y ligeramente corregido con Claude podría dar positivo en una futura herramienta de detección de Anthropic o en otro sistema de terceros.
La compañía todavía no ha publicado esa herramienta de detección, ni ha dado a conocer sus niveles de precisión o un procedimiento para impugnar resultados cuestionados. Algunos usuarios incluso han afirmado que han cancelado sus suscripciones debido a esta política.
Otra crítica se centra en la transparencia sobre la propia tecnología. Anthropic asegura que la marca de agua no modifica la calidad ni la legibilidad de los resultados, pero no ha publicado detalles técnicos sobre su implementación. Esto impide que los usuarios puedan comprobar de forma independiente esa afirmación.
En X y Reddit, algunos usuarios han calificado la política de «muy problemática».
Los programadores también han planteado objeciones específicas, al señalar que añadir firmas criptográficas al código generado podría afectar a su rendimiento o provocar problemas en las distintas etapas del proceso de desarrollo de software.
También se han producido debates polémicos sobre el crédito y la atribución, especialmente en torno a quién debería ser reconocido como autor de un contenido cuando una herramienta de IA interviene en su creación, edición o modificación.
Anthropic ha señalado que próximamente publicará herramientas de detección, documentación técnica y la extensión de las marcas de agua a modelos antiguos.
Hasta que esos recursos estén disponibles, el impacto real de estas políticas podría permanecer en gran medida invisible, al igual que la propia marca de agua por ahora.
Este artículo está traducido de Forbes.com
