Kromix factura anuncios de porno falso en Meta con rostros de políticas

Meta aprobó y cobró por anuncios de Kromix, una aplicación que promete “sin restricciones” para generar vídeos pornográficos con el rostro de mujeres reales, incluyendo políticas estadounidenses. El anuncio mostraba a una figura pública frente a la bandera de EE. UU. y, tras un guiño, la cortaba a una escena sexual explícita. No es un fallo puntual: es la última prueba de que el modelo de negocio de la publicidad programática es incompatible con la seguridad básica cuando la oferta incluye herramientas de abuso sexual por IA.

El ecosistema técnico que nadie quiere ver

Detrás de Kromix hay una infraestructura madura y descentralizada. Investigadores de la Universidad Brown la llaman “Ecosistema Técnico Malicioso” (MTE): más de 200 programas “nudificadores” construidos sobre modelos de código abierto como DeepFaceLab —17.000 estrellas en GitHub— y FaceSwap. Estas herramientas no requieren habilidad técnica: el usuario sube una foto y obtiene el resultado en minutos. El coste: desde 0,31 dólares por imagen. La barrera de entrada ha desaparecido.

El informe del NIST sobre gobernanza de contenido sintético expone tres fallas estructurales al intentar regular este ecosistema:

• La transparencia (marcas de agua, etiquetas) no mitiga el daño: el contenido etiquetado como “FAKE” sigue causando estrés postraumático, daño reputacional y efecto silenciador sobre mujeres y minorías.
• Las medidas contra material de abuso sexual infantil (CSAM) no se trasladan al NCII de adultos: no hay bases de datos de referencia ni consentimiento implícito.
• Las técnicas de filtrado de prompts y “red-teaming” asumen modelos corporativos basados en texto; no funcionan en herramientas que solo piden una foto.

La responsabilidad no es solo de los creadores

El documento de la Universidad Brown y el libro blanco del Family Online Safety Institute coinciden: la cadena de valor incluye a GitHub (alojamiento de código), Google (resultados de búsqueda que priorizan estas herramientas), Visa y Mastercard (procesamiento de pagos) y, crucialmente, las plataformas que venden el inventario publicitario. Meta no solo falló al no detectar el anuncio; su sistema de subasta lo optimizó para llegar a la audiencia más susceptible.

España ha llevado el debate al terreno penal. El Gobierno ha pedido a la Fiscalía que investigue a X, Meta y TikTok por posible responsabilidad en la creación y difusión de pornografía infantil generada por IA, invocando el artículo 8 del Estatuto del Ministerio Fiscal. La comisaria europea ya tiene expedientes abiertos bajo la Ley de Servicios Digitales. Brasil, Canadá, Reino Unido y varios estados de EE. UU. han abierto diligencias similares. La impunidad jurisdiccional empieza a resquebrajarse.

Prevención frente a reacción

Las leyes DEFIANCE Act y TAKE IT DOWN Act, aprobadas en el Senado estadounidense, crean responsabilidad civil y exigen retiradas rápidas. Son necesarias pero insuficientes: cargan en la víctima la carga de detectar, denunciar y litigar. Mientras tanto, el MTE sigue produciendo material nuevo a escala industrial. La gobernanza técnica debe moverse último en la cadena de creación: filtrado de datos de entrenamiento, bloqueo de pesos de modelos abiertos diseñados para NCII, y presión financiera sobre la infraestructura de pagos y alojamiento.

Para los directivos latinoamericanos, la lección es clara: cualquier estrategia de IA generativa que no incluya “safety by design” y auditoría de proveedores expone a la organización a riesgo legal, reputacional y ético. La tecnología para el abuso ya está commodity; la voluntad de frenarla es lo que falta.