Imaginemos una escena que podría ocurrir en cualquier país de la región en 2026: un audio de WhatsApp anuncia, con la voz inconfundible de una autoridad electoral, que el local de votación fue trasladado. Miles de personas reciben el mensaje, lo reenvían y se dirigen al lugar equivocado. Una hora antes del cierre de urnas, la autoridad real desmiente el audio. Pero el daño ocurrió: no hicieron falta pruebas, ni grandes operaciones de inteligencia, ni filtraciones. Solo una voz sintética generada en minutos.
La desinformación siempre existió en la política. Lo que ha cambiado con la inteligencia artificial no es el fenómeno, sino sus condiciones de producción. Lo que antes requería equipos, presupuesto y días para adaptar una narrativa a distintos públicos hoy puede hacerse en minutos: miles de videos, textos y audios personalizados, producidos a escala casi industrial. Y cuando esas herramientas se conectan con agentes que monitorean la reacción del público y ajustan el mensaje en tiempo real, el engaño deja de ser artesanal. Se convierte en una operación automatizada.
Es exactamente lo que describe Nicola Sanchez, CEO de Matrix Go: la inteligencia artificial cambió la economía de producción de contenidos, permitiendo generar miles de materiales dirigidos a audiencias distintas en pocos minutos.
Brasil, el mayor electorado de Latinoamérica, ya se prepara para las elecciones generales de 2026 con un diagnóstico preocupante. El Comité Gestor de Internet (CGI.br) publicó una guía en la que advierte que los videos falsos creados con IA superaron a las tradicionales noticias falsas como principal amenaza digital para la democracia. El video es el nuevo vector rey, casi siempre acompañado de un texto breve que le da sustento y apariencia de legitimidad. Más inquietante aún: la circulación migró de las redes abiertas, donde la exposición pública permitía cierto control, hacia los canales cerrados de mensajería, donde la trazabilidad es más difícil.
El problema, sin embargo, va más allá del engaño puntual. La verdadera amenaza de los deepfakes no es solamente que mientan: es que destruyan la capacidad de distinguir entre lo falso y lo real. Cuando cualquier video puede ser manipulado, el ciudadano no aprende a desconfiar del contenido falso: aprende a desconfiar de todo. Y en ese vacío de confianza, la verificación de hechos pierde valor y triunfa la lógica de la creencia. Los propios estudios citados por el CGI.br identifican este fenómeno como racionalidad motivada: la gente tiende a aceptar lo que confirma sus opiniones previas y descartar lo que las contradice, sea verdadero o falso.
¿Y la tecnología de detección? Aquí llega la parte más incómoda para quienes esperan una solución algorítmica. Una investigación publicada en el Journal on Interactive Systems, firmada por investigadores de la Universidad Federal de Paraná, muestra que los sistemas de detección de deepfakes rinden bien en laboratorios y fallan cuando se enfrentan a condiciones reales: cambios de formato, variabilidad cultural, evolución de los métodos de generación.
Los autores insisten en que la detección no es un problema técnico aislado, sino sociotécnico: un detector solo sirve si alguien confía en él, si sus resultados se interpretan correctamente y si está integrado en los flujos institucionales. Un algoritmo brillante que nadie usa, o que la ciudadanía desconfía, es tan inútil como no tenerlo.
El mapa regional de IDEA Internacional refuerza la inquietud. Según el estudio, los organismos electorales de América Latina utilizan inteligencia artificial para tareas de apoyo: chatbots de atención al ciudadano, monitoreo de redes sociales y funciones administrativas. Son usos valiosos, pero periféricos. La adopción es desigual y casi siempre reactiva: la preocupación por los riesgos está más extendida que los marcos de gobernanza para enfrentarlos. Chile, Colombia y México muestran mayor madurez institucional, mientras otros países experimentan sin reglas claras de transparencia ni supervisión humana.
Para un director ejecutivo, esta historia no es una nota política más. Es una advertencia sobre la fragilidad de los activos que sostienen cualquier negocio: la confianza y la veracidad de la información. Si los tribunales electorales de la región apenas están aprendiendo a detectar engaños generados por máquinas, las empresas, que son objetivo permanente de fraudes y suplantaciones, no deberían sentirse más seguras.
La pregunta que debería preocupar a cualquier líder no es si la próxima elección tendrá deepfakes. La tendrá. La pregunta es si una sociedad que ya no confía en lo que ve podrá seguir tomando decisiones colectivas sobre hechos compartidos. Cuando la mentira se produce en serie y la verdad se vuelve indistinguible, el problema deja de ser electoral. Se vuelve civilizatorio. Y a esa altura, detectar un video manipulado ya no es suficiente: hay que reconstruir la confianza, que es una tarea que ninguna inteligencia artificial sabe hacer.
