Opinión El dilema brasileño: cuando definir el deepfake no basta para frenarlo
El TSE brasileño definió qué es un deepfake electoral, pero condicionó su prohibición a que sea propaganda. La brecha legal queda expuesta ante la IA generativa.
En una convención partidaria cerrada, una pantalla proyecta la imagen y la voz de un expresidente respaldando a su hijo como candidato. El video es falso, fabricado con inteligencia artificial, pero el tribunal electoral decide que no hay delito: no hubo pedido explícito de votos y el evento era interno. Esa escena, ocurrida en Brasil en julio de 2024, resume el nudo que toda democracia latinoamericana empieza a enfrentar: la ley llega tarde, y cuando llega, negocia su propia eficacia.
El Tribunal Superior Eleitoral (TSE) acaba de fijar, por cinco votos a dos, la primera definición técnica de deepfake para un proceso electoral en la región. La corte estableció que se considera deepfake todo contenido sintético, producido o modificado por IA o tecnología equivalente, que presente grado de realismo y cree, reproduzca o altere la imagen, la voz o la manifestación de una persona —viva, muerta o ficticia—. Hasta ahí, el avance es innegable: hay un estándar, un lenguaje común para jueces y fiscales.
El problema aparece en la letra chica. La prohibición electoral del deepfake, sentenció el mismo tribunal, solo opera si el contenido encuadra como "propaganda electoral". Y ahí se abre la rendija. La transmisión en vivo de una convención por redes sociales no convierte automáticamente un apoyo interno en propaganda anticipada, zanjó la mayoría. El vídeo del expresidente Bolsonaro —recreado por IA para bendecir la candidatura de su hijo Flávio— quedó fuera de sanción porque, según el relator, no hubo pedido de votos y el acto era deliberación partidaria.
La decisión expone una tensión que no es solo brasileña. La investigación académica más reciente —desde el trabajo de Ranka y su equipo en arXiv— coincide en que el costo de fabricar desinformación a escala ha colapsado. Modelos de difusión y redes generativas adversarias (GANs) permiten crear vídeos convincentes con datos de entrenamiento cada vez más reducidos. La detección, en cambio, sigue tropezando con la compresión de vídeo, la baja resolución y la latencia: los algoritmos tardan demasiado para frenar la viralidad en tiempo real.
Argentina 2023 ya fue un ensayo general. Ambos candidatos presidenciales, Milei y Massa, difundieron deepfakes del rival. La región no necesita más pilotos: necesita marcos que no dependan de la intención declarada ni del formato del acto. Condicionar la sanción a la figura de "propaganda electoral" es invitar a la simulación. Basta etiquetar el contenido como "institucional", "satírico" o "interno" para eludir la norma.
Las plataformas, por su lado, aplican criterios dispares. Meta elimina si viola estándares comunitarios; X prohíbe medios sintéticos engañosos que causen daño. Ninguna ofrece una barrera hermética, y la coordinación transfronteriza es nula. Un deepfake generado en un servidor de São Paulo, hospedado en Miami y viralizado por WhatsApp en Buenos Aires no respeta jurisdicciones.
Para los líderes de negocio y las instituciones latinoamericanas, la lección es clara: la definición técnica es un primer paso, no el destino. Mientras la regulación persiga la forma —¿es propaganda? ¿es sátira?— y no el efecto —¿distorsiona el debate público? ¿suprime votantes? ¿erosiona la confianza?—, la IA generativa seguirá corriendo por delante. El riesgo no es solo legal; es reputacional y operativo. Una empresa cuya marca sea clonada en un deepfake electoral no encontrará refugio en la distinción entre convención y propaganda.
Brasil ha puesto la primera piedra. El desafío ahora es que el resto de la región no repita la misma grieta: regular el objeto sin regular el daño.
