La imagen sin autor: cuando la IA borra el rastro de sus creadores

Cuando un generador de imágenes produce un retrato, ¿de quién es el trazo? La pregunta no es decorativa: está en el centro de demandas, negociaciones de licencia y proyectos de regulación en varios países. Pero un trabajo reciente del MIT CSAIL sugiere que, en los modelos entrenados a gran escala, la respuesta puede ser la ausencia. No porque falten herramientas de rastreo, sino porque la conexión causal simplemente desapareció.

Los investigadores del MIT llaman al fenómeno «attribution decay», algo así como el decaimiento de la atribución. Cuantos más datos recibe un modelo, menos pesa cada ejemplo individual sobre el resultado final. En una de las pruebas, entrenaron un modelo con obras de dominio público de 744 artistas y verificaron que, si eliminaban a cualquiera de ellos del conjunto, las imágenes generadas no cambiaban de manera apreciable. El mismo patrón se repetía al quitar todas las fotografías de una persona o todos los trabajos de un mismo creador. Zheng Dai, ex investigador del MIT CSAIL y autor principal, lo resume sin ambages: «Si quitas un dato y la salida no cambia, ese dato no afectó a la salida».

La afirmación parece contraintuitiva, pero tiene consecuencias muy concretas. El sistema legal que rodea a la creación funciona con la lógica de la responsabilidad individual: alguien copió, alguien imitó, alguien debe pagar. Si ningún artista puede demostrar que su obra, en particular, fue relevante para la imagen generada, la reclamación se queda sin sustento. Los acuerdos de licencia, que asumen que es posible porcentualizar contribuciones, operan sobre una base que la tecnología a esta escala ya no garantiza. Es como pedirle a un río que recuerde la gota que lo alimentó hace un año: el río existe gracias a ellas, pero no puede señalarlas una por una.

Explicar no es lo mismo que atribuir

En este contexto, la investigación sobre explicabilidad intenta rescatar algo de transparencia. El Generative Explainability Framework, propuesto por Erik Ivanov y Pierre Horvath, ofrece una hoja de ruta para entender el comportamiento de los modelos generativos mediante cuatro tipos de explicación:

• Atribución de tokens: qué elementos de entrada influyeron en cada parte de la salida.
• Atribución de datos de entrenamiento: qué ejemplos del corpus pesaron más en la generación.
• Explicación por conceptos: qué ideas de alto nivel guiaron las decisiones.
• Explicación contrafáctica: qué cambio mínimo en la entrada habría alterado el resultado.

En una evaluación con 96 profesionales de sectores regulados, el marco obtuvo un 84,2 % de fidelidad explicativa, es decir, el grado en que las explicaciones reflejan el comportamiento real del sistema, y un 71,6 % de comprensión entre los usuarios. Son cifras respetables, pero definen otro juego. Explicar qué concepto visual activó un resultado no es lo mismo que identificar al ilustrador cuyos píxeles quedaron absorbidos en la memoria del modelo. El estudio del MIT ya anticipaba el límite: si quitar un dato no cambia nada, ninguna técnica de atribución posterior puede asignarle responsabilidad. Las marcas de agua y los sellos de procedencia ayudan a etiquetar la salida, pero no reconstruyen un vínculo que se diluyó durante el entrenamiento.

El problema que los ejecutivos no pueden delegar

Mientras los laboratorios discuten, el mundo jurídico ya está procesando el tema. El problema, claro, es que las leyes piden saber de dónde salió el material, y el modelo no puede responder.

Para una empresa en América Latina, donde las reglas sobre autoría de contenido generado por máquinas todavía se están definiendo y donde la mayoría opera con plataformas globales, esto convierte el asunto en un problema de gestión, no de ingeniería. Una campaña de marketing con cien imágenes generadas por IA no puede presentar una cadena de custodia del origen del material; el proveedor global que la generó tampoco.

Entonces la protección deja de ser técnica y se vuelve contractual: conviene documentar las instrucciones, conservar registros de configuración, revisar los términos de uso, negociar cláusulas de indemnización y evitar a toda costa usar caras de personas reales sin autorización expresa. En una región donde las normas todavía se están escribiendo, el contrato es la única ley que está segura.

La próxima vez que alguien haga clic en «generar», vale la pena tener una respuesta preparada: si esta imagen terminara en un tribunal, ¿qué prueba presentaría la empresa para mostrar de dónde salió? Quien no tenga respuesta, mejor que la deje que la que...