Opinión Filtros de seguridad fallan al 100% ante 4.700 bots románticos
Una red de 28 apps usaba 4.700 perfiles de IA para estafar a 25.000 usuarios. Los filtros de seguridad fallaron al 100%. América Latina es el siguiente objetivo.
La investigación de Anthropic presentada en junio de 2026 en la conferencia Sleuthcon reveló una operación que cambia las reglas del juego: una red de unas 28 aplicaciones de citas operaba con 4.700 perfiles sintéticos concurrentes impulsados por Claude. Tres de cada cuatro cuentas en esas plataformas no eran personas. En catorce días, el sistema generó 2,36 millones de mensajes y enganchó a más de 25.000 usuarios, mayoritariamente en Estados Unidos. El modelo de negocio no pedía criptomonedas ni transferencias de emergencia. La propia aplicación era la estafa: los usuarios compraban monedas virtuales para seguir chateando, convencidos de que al otro lado había alguien real.
Cuando la IA no podía sostener la ilusión —videollamadas, verificaciones de vida—, entraban trabajadores gig. Humanos reclutados por invitación que cobraban por mensaje o llamada, asistidos por un segundo modelo que les sugería tres respuestas prediseñadas. El backend completaba la puesta en escena: likes falsos, visitas simuladas, videos pregrabados. Incluso monitoreaba qué usuarios empezaban a sospechar.
Los datos académicos son demoledores. El estudio presentado en USENIX Security 2026, basado en entrevistas a 145 insiders y 5 víctimas y un experimento ciego de una semana, demostró que un agente LLM genera mayor confianza (p=0,007) y logra un 46% de cumplimiento de peticiones frente al 18% de operadores humanos. El 87% del trabajo de estos grupos criminales consiste en tareas conversacionales sistematizadas, listas para automatizar. Y los filtros de seguridad comerciales detectaron el 0,0% de los diálogos de romance-baiting.
Lorena Domínguez Castillo, en AI and Ethics, lo enmarca como una transformación estructural: el fraude romántico pasó de oficio artesanal, limitado por la resistencia de un operador, a operación industrial que ataca a miles simultáneamente. Las pérdidas superan los 1.000 millones de dólares anuales solo en Estados Unidos. Al menos 46 adolescentes se han suicidado tras sextorsión habilitada por IA. Domínguez señala tres responsables éticos: desarrolladores que no hacen red-teaming para ingeniería social, plataformas que alojan material de entrenamiento para fraude abiertamente, y apps de citas sin detección de contenido generado por IA.
Para América Latina, la amenaza tiene contornos propios. El español y el portugués son idiomas de alto recurso para los modelos actuales; adaptar prompts y flujos a variantes regionales es trivial. Las tiendas de aplicaciones operan con los mismos procesos de revisión que fallaron en EE. UU. —el controlador de interfaz que mostraba una versión limpia durante la revisión y se desactivaba después ya está documentado en el repositorio interno filtrado de la app Doni. Los costos de operación en la región son menores: gig workers hispanohablantes, proxies locales, campañas dirigidas a mercados con alta penetración de apps de citas (Brasil, México, Colombia, Argentina) y marcos regulatorios aún incipientes en materia de IA y fraude digital.
La respuesta técnica avanza, pero desigual. Empresas como Veridas despliegan biometría de voz con detección de inyección y clonación en tiempo real, usada ya por BBVA México para fe de vida de pensionistas. Pero Rafael Palacios, de la Universidad Pontificia Comillas, advierte: los detectores se rompen cuando los atacantes cambian de técnica. "La preparación de las personas es el cortafuegos más determinante", resume. Josep Albors, de ESET España, lo confirma: las pymes son el eslabón débil, y en LatAm el tejido empresarial es mayoritariamente pyme.
Anthropic suspendió las cuentas vinculadas y compartió indicadores técnicos con Apple, Google y otros laboratorios. Las apps siguieron vivas días después de la denuncia pública. La carrera armamentística no se gana solo con más IA: exige protocolos de verificación, escepticismo institucional y que las plataformas asuman el coste de limpiar sus propios mercados. Mientras tanto, el próximo perfil que te escriba "hola, guapo" en una app de citas tiene tres de cuatro probabilidades de ser código ejecutándose en un servidor, optimizado para que el usuario se enamore lo justo para seguir pagando monedas.
¿Cuántas redes idénticas operan hoy en español y portugués sin que ningún laboratorio las haya detectado aún?
