Opinión Vigilancia aérea y deepfakes: el cóctel de riesgo que San Francisco normaliza
Dos hechos en la ciudad californiana exponen cómo la vigilancia estatal y la explotación comercial de la identidad se retroalimentan, normalizando un escenario de control y acoso para los más vulnerables.
San Francisco, cuna del optimismo tecnológico y sede de las mayores plataformas digitales del mundo, se ha convertido en un laboratorio incómodo. Dos noticias recientes, aparentemente desconectadas, revelan la misma falla de origen: la tecnología no está diseñada para proteger, sino para exponer. Por un lado, horas de grabación aérea del Departamento de Policía quedaron al descubierto en internet, dejando al desnudo los movimientos de miles de ciudadanos sin que exista un marco de privacidad que limite su uso. Por el otro, la Fiscalía de la ciudad envió cartas de cese y desistimiento a Apple y Google para que eliminen trece aplicaciones de inteligencia artificial que reemplazan rostros —los llamados face-swap—, destinadas principalmente a mujeres y niñas. Ambas aristas dibujan un mismo patrón: la normalización de la vigilancia en dos frentes que se refuerzan mutuamente, el estatal y el comercial, y que dejan a las personas más vulnerables en la línea de fuego.
El Estado como gran ojo indiscreto
Que el Departamento de Policía de San Francisco haya expuesto involuntariamente horas de video aéreo no es un simple descuido administrativo. Es la consecuencia lógica de un sistema que prioriza la recolección masiva de datos sobre cualquier consideración de privacidad. Cuando una agencia estatal opera drones de vigilancia sin controles claros sobre quién accede a esas imágenes, durante cuánto tiempo se almacenan y con qué fines pueden reutilizarse, el riesgo no es hipotético: es una vulneración sistemática del derecho a la intimidad. Cada vuelo de esos aparatos registra desplazamientos, reuniones, comportamientos cotidianos de personas que nunca han sido investigadas ni han cometido delito alguno. Y aunque la excusa sea la seguridad pública, la historia demuestra que los datos acumulados siempre acaban usándose para fines que no se contemplaron al principio. La transparencia no es suficiente si no va acompañada de límites legales explícitos.
La mercantilización del rostro ajeno
Paralelamente, la aparición de trece aplicaciones de intercambio facial dirigidas casi exclusivamente a mujeres y niñas revela la otra cara de esta misma moneda. Mientras la vigilancia aérea expone a toda la ciudadanía sin distinción, estas herramientas comerciales apuntan deliberadamente a colectivos históricamente acosados. La tecnología de deepfake, en su versión más accesible y barata, se convierte en un arma de acoso sexual automatizado: cualquiera puede tomar la foto de una compañera de trabajo, una vecina o una desconocida y superponer su rostro en un contenido pornográfico sin su consentimiento. Las cartas de cese y desistimiento enviadas por la Fiscalía de San Francisco a Apple y Google representan un intento de ponerle freno, pero también evidencian que las plataformas han permitido durante meses que estas aplicaciones operen en sus ecosistemas. La pregunta es incómoda: ¿por qué no actuaron antes, cuando WIRED reportó el problema en junio? La respuesta probablemente tenga que ver con los ingresos que esas aplicaciones generan y con la ausencia de consecuencias reales hasta que una autoridad interviene.
Dos caras de un mismo sistema
Lo que estas dos historias revelan es que la vigilancia no es un fenómeno monolítico. Se despliega por dos vías paralelas que, juntas, crean un entorno de control difuso pero efectivo. El Estado vigila desde arriba, sin pedir permiso ni explicar sus criterios; el mercado vigila desde las pantallas, ofreciendo servicios que trivializan la identidad y la convierten en mercancía reutilizable. En ambos casos, el poder (ya sea policial o corporativo) opera con una ventaja informativa abrumadora sobre el ciudadano común, y especialmente sobre las mujeres y niñas que se convierten en blanco de aplicaciones diseñadas para humillar y chantajear. San Francisco se perfila así como una advertencia temprana para cualquier ciudad latinoamericana que esté considerando expandir sus sistemas de videovigilancia sin un debate público profundo. Porque si en la cuna del liberalismo tecnológico ocurre esto, ¿qué podemos esperar en contextos donde los controles democráticos son más frágiles?
Cierre: la ilusión de que la tecnología nos protege
La idea de que más cámaras y más algoritmos nos hacen más seguros es el gran relato que sostiene estas políticas. Pero la evidencia empírica apunta en otra dirección: la videovigilancia aérea y las aplicaciones de intercambio facial no reducen la violencia, sino que la redistribuyen y la amplifican. Transforman a la ciudadanía en sujetos vigilados y a las mujeres en cuerpos disponibles para el abuso digital. Quizás el verdadero aprendizaje de San Francisco no sea una lección técnica, sino política: mientras no diseñemos tecnologías que pongan límites claros al poder de mirar y de manipular, la inteligencia artificial no será una herramienta de emancipación, sino un multiplicador de las desigualdades que ya existen. Y esa es una conversación que los ejecutivos y líderes latinoamericanos no pueden seguir postergando.
