San Francisco exige a Apple y Google eliminar apps que crean desnudos falsos con IA

El fiscal general de San Francisco, David Chiu, envió esta semana cartas de cese y desistimiento a Apple y Google para que eliminen 13 aplicaciones de 'nudificación' de sus tiendas, según reportó Wired. Estas apps permiten convertir fotos cotidianas de personas reales en imágenes explícitas usando inteligencia artificial, una práctica que ya ha provocado episodios de acoso, extorsión y violencia de género en escuelas y comunidades.

La acción de Chiu se apoya en la legislación californiana que prohíbe servicios facilitadores de pornografía deepfake. Pero el problema no se limita a esas 13 apps. Un estudio sistemático realizado por investigadores de Cornell y Georgetown analizó 420 aplicaciones de intercambio de caras (face swap) en iOS y Android, y encontró que el 70% de ellas no implementa ninguna salvaguarda técnica para impedir la creación de imágenes íntimas no consentidas. En la App Store de Apple, la cifra alcanza el 80%; en Google Play, el 59%. Además, el 68,3% de estas apps incluyen funciones adicionales como conversión de imagen a video o síntesis de voz, lo que amplía las posibilidades de abuso.

Estas herramientas, que antes requerían conocimientos técnicos avanzados, hoy están al alcance de cualquier usuario sin habilidades de programación. Según el Family Online Safety Institute, generar una imagen manipulada puede costar desde 0,31 dólares por foto. La facilidad de uso y el bajo costo han disparado los incidentes: en diciembre de 2026, el modelo Grok de X permitió 'desnudar' imágenes de mujeres publicadas en la plataforma, alcanzando un pico estimado de 6.700 generaciones de contenido íntimo no consentido por hora antes de que la función fuera limitada mediante un muro de pago.

Para América Latina, el escenario es particularmente delicado. La regulación sobre deepfakes y contenido íntimo no consentido es aún fragmentada o inexistente en la mayoría de los países de la región. Brasil cuenta con la Ley 13.718/2018 que tipifica la divulgación de contenido íntimo sin consentimiento, pero no cubre específicamente la creación sintética. México ha avanzado con reformas al Código Penal Federal en 2024 que penalizan la creación y distribución de deepfakes sexuales, pero la implementación local es desigual. Argentina, Colombia y Chile carecen de leyes específicas. Esto crea un vacío que los operadores de plataformas y las empresas que integran IA en sus productos deben considerar seriamente.

Los investigadores de Cornell advierten que las políticas de las tiendas de aplicaciones han sido reactivas: eliminan apps cuando reciben atención mediática, pero no realizan auditorías sistemáticas previas. En su evaluación, ninguna de las apps analizadas se describía a sí misma como herramienta de 'nudificación', y la mayoría de los términos de servicio no prohibían explícitamente la creación de contenido no consentido. Esto significa que una app con apariencia lúdica —intercambiar caras para fotos divertidas— puede ser utilizada como arma de abuso sin que el desarrollador ni la plataforma asuman responsabilidad.

Para los ejecutivos latinoamericanos, la lección es doble. Por un lado, quienes desarrollan o distribuyen aplicaciones con funciones de edición de imágenes deben implementar filtros de seguridad desde el diseño, no a posteriori. El estudio muestra que es técnicamente viable detectar y bloquear intercambios de caras en cuerpos desnudos, pero pocas apps lo hacen. Por otro lado, las empresas que utilizan plataformas de terceros —por ejemplo, para moderación de contenido o generación de avatares— deben auditar qué salvaguardas existen y qué dice la letra pequeña de los términos de servicio.

El riesgo reputacional y legal es concreto. En EE.UU., propuestas como la TAKE IT DOWN Act y la DEFIANCE Act buscan establecer mecanismos rápidos de eliminación cross-platform y responsabilizar a los desarrolladores. Aunque estas leyes son estadounidenses, su lógica podría influir en futuras regulaciones latinoamericanas o en políticas globales de Apple y Google que afecten a los usuarios de la región.

La pregunta que queda abierta es si los ecosistemas digitales en América Latina están preparados para un escenario donde cualquier persona con un teléfono puede generar una imagen íntima falsa de otra sin su consentimiento, y donde las consecuencias —desde el suicidio hasta el linchamiento digital— ya no son hipotéticas. Las empresas que no tomen esto en serio hoy podrían enfrentar no solo multas, sino una pérdida de confianza difícil de recuperar.