Anthropic acaba de revelar los detalles técnicos de su sistema de marcas de agua para Claude, un mecanismo diseñado para incrustar una señal invisible en el texto generado por el modelo. La idea es que cualquier fragmento de al menos 25 tokens pueda ser verificado algorítmicamente como sintético, sin necesidad de acceder al modelo o a sus parámetros. La técnica se basa en el esquema "rojo-verde" propuesto originalmente por Kirchenbauer et al. en 2023: se selecciona un subconjunto pseudoaleatorio de tokens "verdes" según el contexto y se les da un pequeño impulso en la distribución de probabilidad durante la generación. En la detección, se cuenta cuántos tokens verdes aparecen en el texto y se calcula un puntaje Z; si supera un umbral, se considera generado por IA.
Pero la misma semana en que Anthropic publicó su explicación, un equipo de la ETH Zúrich presentó en ICLR 2025 una investigación que pone en duda la premisa de que estas marcas sean indetectables para un usuario común. Los investigadores desarrollaron pruebas estadísticas que, con solo consultas de texto (sin acceso a logits ni parámetros internos), pueden determinar si un modelo está usando un watermark de las tres familias más populares: Red-Green, Fixed-Sampling y Cache-Augmented. Lo probaron en GPT-4, Claude 3 y Gemini 1.0 Pro con resultados contundentes: incluso los esquemas diseñados para preservar la distribución del modelo son detectables en la práctica.
Para una empresa que dependa de Claude o de cualquier otro modelo con watermark, esto significa que un competidor o un regulador podría identificar si un texto fue generado por IA, simplemente consultando al modelo de forma repetitiva.
La paradoja se profundiza con un estudio del Fraunhofer ISST que analiza la seguridad de las marcas de agua basadas en Unicode (técnicas que alteran espacios, caracteres de ancho cero o confusables). Los resultados muestran que los modelos de razonamiento más recientes, como GPT-5, Claude Sonnet 4 y Gemini 2.5 Pro, pueden detectar si un texto contiene una marca de agua de este tipo, aunque no logran extraer el mensaje oculto a menos que tengan acceso al código fuente del algoritmo. Esto plantea un escenario de "doble filo": los sistemas de watermarking pueden ser detectados tanto por métodos estadísticos como por los propios LLMs, lo que erosiona la confianza en su efectividad como herramienta de atribución.
Para los ejecutivos latinoamericanos, la proliferación de marcas de agua tiene implicaciones directas en tres frentes. Primero, en la integridad académica y corporativa: universidades y empresas de la región que adopten detectores de IA para filtrar trabajos, informes o postulaciones deben saber que un resultado positivo no prueba que el texto provenga de Claude o de ChatGPT; solo indica que el texto parece generado por IA.
Segundo, en la regulación: países como Brasil, Chile y Colombia están discutiendo leyes de transparencia algorítmica. Si se exige a las empresas etiquetar contenido generado por IA, las marcas de agua son una herramienta técnica, pero su detectabilidad podría usarse para evadir la norma o, por el contrario, para generar evidencia de incumplimiento. Tercero, en la confianza del cliente: un banco o una fintech que use Claude para generar respuestas automáticas a reclamos podría ver sus mensajes marcados como sintéticos por el propio cliente, lo que dañaría la percepción de autenticidad.
La investigación de ETH Zúrich incluye un detalle revelador: para detectar un watermark Red-Green, las pruebas requieren menos de 100 consultas al modelo en condiciones ideales. Un actor con recursos limitados podría, en minutos, confirmar si un API está usando watermarking. Esto abre la puerta a ataques de "remoción" o "spoofing" del watermark, algo que los propios autores mencionan como consecuencia de la detectabilidad. En Latinoamérica, donde la adopción de APIs de IA está creciendo sin marcos de seguridad maduros, el riesgo es que un competidor deshonesto pueda imitar o eliminar la marca de agua de contenido generado por IA para atribuírselo o para evadir controles.
Más allá de la tecnología, el debate de fondo es sobre la transparencia. Las marcas de agua fueron concebidas como una solución técnica a un problema de confianza: ¿cómo saber si un texto fue escrito por un humano o por una máquina? Pero la evidencia actual muestra que ninguna marca de agua es invisible ni indetectable. Para un Chief Data Officer en América Latina, la lección es que la atribución de contenido debe basarse en múltiples factores: políticas de uso, auditorías de APIs, revisiones humanas y, sobre todo, educación. Las marcas de agua pueden ser una capa adicional, pero no una solución definitiva.
El verdadero desafío no es técnico, sino de gobernanza. Mientras los grandes laboratorios de IA como Anthropic, OpenAI y Google compiten por sus propios esquemas de watermarking, la comunidad académica demuestra que cualquier diseño tiene puntos ciegos. Para las empresas latinoamericanas, la pregunta no es si Claude es detectable, sino cómo construir procesos de verificación que no dependan de una única herramienta frágil.
