A inicios de esta semana, Anthropic anunció que sus modelos de IA, lanzados en la Unión Europea desde el 2 de agosto, incluirán una marca de agua invisible que se aplicará a nivel global. Esta medida, que ha suscitado controversia y hasta amenazas de cancelación de suscripciones, busca garantizar la transparencia en el contenido generado por inteligencia artificial, sin alterar la experiencia del usuario.
La marca de agua de Claude no se manifiesta a través de caracteres o metadatos, sino que se integra directamente en el proceso de generación del texto. Para su detección, se requiere una clave criptográfica específica. Esta innovación responde a un compromiso más amplio de más de 190 organizaciones, incluyendo a OpenAI y Meta, que firmaron un Código de Prácticas sobre la transparencia del contenido generado por IA, enmarcado en la Ley de IA de la Unión Europea.
El funcionamiento de este sistema es bastante ingenioso. Durante la creación de textos, las decisiones sobre qué palabras utilizar se basan en una clave y en las palabras anteriores, lo que permite que el texto generado sea estadísticamente identificable para quienes posean la clave. A diferencia de las marcas de agua tradicionales, esta es completamente imperceptible a simple vista y no afecta la calidad del contenido.
Sin embargo, existen limitaciones en este enfoque. La marca de agua es menos efectiva en textos cortos o muy específicos y no puede determinar la autoría legal del contenido. Anthropic también ha indicado que, aunque planean lanzar una API para detectar esta marca, no hay garantías de que un texto sin la marca sea necesariamente obra humana, ya que solo representa la probabilidad de intervención de Claude.
