Meta tardó días en retirar anuncios que desnudaban a menores reales

El patrón detrás de los anuncios

Mientras la industria debate los riesgos de la inteligencia artificial generativa, un caso vuelve a poner el foco en las plataformas que la distribuyen. Meta tardó varios días en retirar anuncios de Facebook e Instagram que promocionaban aplicaciones de "nudify" —herramientas que visten y desvisten digitalmente a personas en fotos— y que usaban imágenes de adolescentes reales, incluyendo la foto de una niña de una familia real europea y capturas de un perfil de Instagram de una preadolescente considerada influencer.

El hallazgo de Ars Technica no se limitó a la presencia de esos avisos: al hacer clic, el usuario llegaba a tiendas de aplicaciones donde la misma plataforma se presentaba como un servicio de moda. Según pudo comprobar Infobae en una prueba práctica, bastaron segundos para subir una foto de dos menores generada con IA, obtener una imagen detallada de ambas niñas desnudas y descargar la app sin pagar nada.

Un negocio que opera con impunidad

El caso expone una cadena compleja: los generadores de imágenes crean el contenido, las plataformas publicitarias lo difunden y las tiendas de aplicaciones lo alojan. Cada eslabón puede señalar al otro. Meta declaró tener tolerancia cero con la explotación infantil y el contenido explícito generado por IA sin consentimiento, pero los anuncios estuvieron activos durante días. Google, por su parte, respondió con un enlace a su reglamento que prohíbe aplicaciones que distribuyan contenido sexual.

La demora no es un detalle menor. Un estudio de la Universidad George Mason citado en la investigación reveló que un porcentaje de estudiantes afirmó haber usado estas herramientas para crear imágenes de sí mismos o de otras personas. Y detrás de los casos individuales hay una dimensión estructural: el Instituto Global de Seguridad Infantil Childlight estima que más de 300 millones de niños al año en el mundo son víctimas de explotación y abuso sexual facilitados por la tecnología.

La amenaza también es local

Para América Latina, el problema no es lejano. Fabiana Ramírez, especialista en seguridad informática de ESET Latinoamérica, advirtió a Infobae que "estamos en una desregulación total, porque esto funciona y no hay quien esté controlando y cada vez es más perfecto el contenido". Su lectura coincide con una característica que la propia prueba de Infobae reveló: las imágenes generadas sobre niños no son simples copias de cuerpos adultos, sino que se adaptan a una contextura infantil, lo que las vuelve más dañinas y más difíciles de detectar automáticamente.

Esta región combina alta penetración de redes sociales, marcos normativos incipientes sobre IA y una brecha de capacidades técnicas en las agencias de investigación. Cuando la víctima es una niña o un niño, el daño no requiere distribución: basta con que la imagen exista en el teléfono del agresor para convertirse en una herramienta de acoso o extorsión.

Qué deberían hacer las empresas

Para un ejecutivo latinoamericano, el caso deja tres lecciones operativas. Primera: la moderación de contenido no puede depender solo de reportes de usuarios, porque el volumen de generación con IA supera cualquier revisión manual. Segunda: los equipos de riesgo deben auditar no solo el contenido publicado, sino también la publicidad programática que se compra en su nombre o contra su marca, un punto ciego habitual en la región. Tercera: las políticas de tolerancia cero necesitan mecanismos de verificación con plazos concretos; una respuesta que tarda días frente a material de abuso infantil no es moderación, es un fallo sistémico.

Una pregunta que queda flotando, y que deberían responder las plataformas y los reguladores locales con urgencia, es cuántos casos más pasan inadvertidos mientras las herramientas de desnudo se perfeccionan y su distribución se vuelve más barata.