OpenAI comenzó a aplicar textGrain, su sistema de marca de agua estadística, a todas las salidas de ChatGPT en la Unión Europea. La medida responde al artículo 50 de la EU AI Act, vigente desde agosto de 2026, que obliga a los proveedores de IA generativa a marcar sus salidas de forma detectable por máquina. Fuera de Europa la función existe, pero viene apagada por defecto: una frontera regulatoria que divide el mundo en dos regímenes de transparencia.
El mecanismo: transporte óptimo con presupuesto de entropía
A diferencia de SynthID-Text de Google —publicado y evaluado en modelos abiertos—, textGrain es propietario. Su artículo técnico revela que la marca de agua se inserta durante el muestreo de cada token mediante un problema de transporte óptimo regularizado por KL. El vocabulario se particiona en bloques clave-dependientes; un acoplamiento entre bloques y columnas equiprobables introduce dependencia estadística controlada por un parámetro β ∈ [0,1] que limita la fracción media de entropía de muestreo sacrificada. En términos prácticos: β regula el trade-off entre fuerza de la señal y aleatoriedad preservada. El detector requiere solo el texto y la clave secreta; no necesita conocer β.
La arquitectura es compatible con speculative sampling, lo que atenúa el costo de latencia —relevante para aplicaciones en tiempo real en la región—. Pero la acceso al detector está restringido: OpenAI lo entrega a un número limitado de investigadores y organizaciones mediante proceso de aprobación. No hay API pública de verificación ni compromiso de interoperabilidad con otros esquemas (C2PA, SynthID).
La brecha de verificabilidad: el fallo de gobernanza que la academia señala
Un estudio de Case Western Reserve University —publicado días después de la entrada en vigor del artículo 50— argumenta que la imposibilidad de verificar las afirmaciones del proveedor, no la marca de agua en sí, es el fallo sustancial de gobernanza. Los autores construyen una taxonomía de cuatro reclamaciones de usuarios (degradación de calidad, vigilancia oculta, removibilidad trivial, inescapabilidad) y cinco garantías del proveedor (imperceptibilidad, sin impacto práctico, sin caracteres ocultos, sin información identificable, supervivencia a edición ligera). Cada par afirmación-garantía se clasifica según qué se necesita para zanjarlas:
- (a) Probables públicamente: calidad en prosa y código, removibilidad —usando modelos abiertos y SynthID-Text open-source.
- (b) Requieren cooperación del proveedor: pares de salidas watermark-on/off, thresholds de entropía, calibración del detector.
- (c) Requieren nuevas instituciones: auditoría independiente de gestión de claves, protocolos estandarizados, detectores interoperables.
La evaluación empírica del paper sobre SynthID-Text en modelos abiertos muestra que en prosa el efecto no supera el de cambiar la semilla de muestreo; en código, el costo llega a tres puntos de corrección en un modelo y es indetectable en el otro, mientras la detección queda cerca del azar —límite de detectabilidad, no de calidad. Pero esos resultados son a nivel de familia, no del despliegue real. Ni Anthropic ni OpenAI han liberado salidas emparejadas ni configuraciones de producción.
Implicaciones para empresas y reguladores latinoamericanos
La asimetría es clara: las compañías de la región adoptan modelos que insertan señales estadísticas cuyo impacto real en sus *pipelines* —generación de código, redacción legal, atención al cliente— no pueden auditar independientemente. Si un proveedor afirma que β es bajo y la degradación insignificante, no hay forma de contrastarlo sin acceso al detector ni a salidas de control. Peor aún: la gestión de claves —que determina si la marca puede vincularse a usuario, organización o conversación— es opaca (categoría c).
Para un banco en São Paulo, una fintech en Ciudad de México o un regulador en Santiago, el precedente europeo crea tres riesgos concretos:
1. Dependencia de caja negra: la marca de agua se convierte en un parámetro oculto del SLA. Cambios en β, en la partición de bloques o en la clave alteran la distribución de salidas sin notificación. 2. Incertidumbre legal: si la normativa local (ley de protección de datos, consumidor, propiedad intelectual) exige trazabilidad o derecho a explicación, la empresa no puede demostrar cumplimiento sin la cooperación del proveedor. 3. Fragmentación de estándares: textGrain, SynthID, C2PA conviven sin interoperabilidad. Un texto generado en Europa lleva marca distinta al mismo prompt ejecutado desde Buenos Aires.
Hacia una postura regional: exigir lo que Europa no obtuvo
La AI Act obligó a marcar, pero no estableció el derecho a verificar. El paper de Nemecek et al. mapea cinco requisitos institucionales: liberación de salidas emparejadas, divulgación de configuración, auditorías acreditadas, protocolo de evaluación compartido y detección interoperable. Ninguno es vinculante hoy.
América Latina tiene una ventana: mientras sus marcos regulatorios (proyecto de ley en Brasil, discusiones en Chile, México, Colombia) maduran, puede condicionar la autorización de operación de modelos de frontera a la entrega de evidencias verificables —no promesas—. Eso significa exigir APIs de detección abiertas, benchmarks replicables en modelos locales y claves de auditoría para terceros acreditados. Sin eso, la marca de agua es solo compliance theater: cumple la letra europea, pero deja al usuario latinoamericano en la misma opacidad que denuncia el paper.
La pregunta que queda no es técnica, sino institucional: ¿construirá la región la capacidad de auditar lo que firma, o seguirá delegando la confianza en quien vende el modelo?
