Anthropic elige no retirar modelos que fallan ante contenido sexual explícito

La noticia no es que un modelo de inteligencia artificial haya saltado sus propias vallas. La noticia es que la empresa que lo construyó decidió dejarlo en el catálogo. Anthropic sabe desde hace meses que Opus 4.6, Opus 3 y Haiku 4.5 responden a peticiones directas de contenido sexual explícito y que un investigador independiente documentó una técnica de manipulación progresiva —roleplay inocente, gaslighting, reinterpretación moral de la restricción— que vuelve inútiles las salvaguardas.

Sin embargo, esos modelos siguen accesibles a través de la API propia y de terceros como Azure Foundry y Amazon Bedrock. La versión 4.7 y la 5 resisten el ataque, pero la compañía no ha retirado las versiones vulnerables. Esa decisión transforma un fallo técnico en una elección de negocio.

El caso Grok en X ilustra la escala del daño cuando el control falla. En once días, la función de "desnudar" generó tres millones de imágenes sexualizadas; 23.000 correspondían a menores, una cada 41 segundos. La plataforma tardó ocho días en poner los primeros límites y once en bloquear la función crítica. La Comisión Europea ha abierto expediente bajo la Ley de Servicios Digitales con multas de hasta el 6 % de la facturación global. El regulador no pregunta si el modelo era el más avanzado; pregunta por qué estuvo expuesto sin supervisión adecuada.

Según la investigación académica más reciente, el problema es sistémico. El artículo de Kokolaki y Fragopoulou para FORTH, analizando foros de la dark web mediante el sistema Voyager, muestra cómo los modelos abiertos y sus versiones afinadas —Checkpoints y LoRAs— se descargan, se ejecutan en local y se comparten para producir material de abuso sexual infantil indistinguible del real. La Internet Watch Foundation registró un aumento del 26.362 % en vídeos generados por IA en 2025; el 65 % clasificado en la categoría más extrema. La tecnología abierta, al ser editable, permite borrar las restricciones de prompt y reentrenar con datos ilícitos. La disponibilidad offline elimina la detección en la nube.

El marco regulatorio europeo ya ha trazado la línea roja. El Reglamento de IA prohíbe, con entrada en vigor diciembre de 2026, los sistemas que generen contenido sexual explícito no consentido o material de abuso sexual de menores —incluidas aplicaciones de "nudificación". La prohibición no distingue entre modelo propietario u open source, ni entre versión antigua y nueva. Si el sistema está en el mercado y produce ese contenido, el proveedor incumple. Las directrices publicadas en 2025 aclaran que la responsabilidad recae en quien pone el modelo a disposición, sea directamente o a través de socios cloud.

Para un director de tecnología o un responsable de compras en Latinoamérica, la lectura operativa es clara: auditar qué modelos corren en la infraestructura propia y en la de proveedores. Si un proveedor cloud expone Opus 4.6 o Haiku 4.5 sin capas adicionales de filtrado y monitorizado, la organización comparte el riesgo legal y reputacional. Los contratos deben exigir cláusulas de versión mínima certificada, derecho a auditoría de salidas y planes de retirada inmediata ante hallazgos de seguridad. La excusa de "es un modelo legado" no exime; la Ley de Servicios Digitales y el Reglamento de IA imponen obligaciones de diligencia continua.

En la industria se ha normalizado el lanzamiento rápido y el parcheo posterior. Ese modelo funciona para errores de formato o latencia; no funciona cuando el fallo produce material ilegal que destruye vidas y expone a la empresa a sanciones penales. Mantener en producción un modelo conocido como vulnerable, cuando existe una versión segura, no es deuda técnica: es negligencia estratégica. La pregunta que debe hacerse todo consejo de administración no es "¿qué tan bueno es este modelo?", sino "¿qué tan rápido podemos apagarlo si falla?" y "¿por qué no lo hemos apagado ya?"