Mientras CSIRO advierte, Anthropic y OpenAI publican salvaguardas para sus model os

Anthropic y OpenAI han puesto sobre la mesa, en semanas consecutivas, la arquitectura de seguridad que piensan exigir a sus modelos más potentes. Anthropic lanzó Enterprise Frontier Safeguards (EFS), una capa que combina retención cero de datos —la información nunca sale de la nube del cliente— con detectores de uso indebido que operan en esa misma infraestructura Developing Enterprise Frontier Safeguards with our customers. OpenAI, por su lado, publicó la versión 2 de su Preparedness Framework, que clasifica capacidades en categorías rastreadas (biológico-químico, ciberseguridad, auto-mejora de la IA) y fija umbrales "High" y "Critical" que disparan salvaguardas obligatorias antes de cualquier despliegue Ante la próxima frontera de las capacidades cibernéticas críticas.

Ambos movimientos responden a la misma constatación: los modelos están a punto de cruzar la línea donde sus limitaciones técnicas dejan de ser una red de seguridad natural. OpenAI lo dice sin rodeos: sus evaluaciones muestran que los modelos actuales, incluso sin salvaguardas, no alcanzan aún el umbral de riesgo severo, pero "estamos en el umbral de sistemas que pueden hacer nueva ciencia y que son cada vez más agenticos" Ante la próxima frontera de las capacidades cibernéticas críticas.

El riesgo ya no es el modelo, es el sistema

Un trabajo de CSIRO publicado en arXiv cambia el foco: el problema no son solo las vulnerabilidades del modelo, sino cómo la IA fronteriza reconfigura la dinámica de riesgo en infraestructura crítica (energía, agua, telecomunicaciones, salud, finanzas) SoK: How Frontier AI Reshapes System-Level Security Risk Dynamics in Critical Infrastructure. Los autores identifican cinco dimensiones que actúan en bucle:

• Emergencia de capacidades: barreras más bajas para atacar, plazos más cortos.
• Vías de infiltración: cadena de suministro de datos, modelos, corpora de recuperación, "shadow AI" (uso no aprobado dentro de flujos operativos).
• Propagación cruzada: fallos que saltan entre sistemas interconectados por modelos compartidos, bucles de optimización y decisiones automatizadas.
• Autoridad de control: sesgo de automatización, traspasos inseguros, decisiones a velocidad de máquina sin supervisión humana efectiva.
• Capacidad de respuesta: brechas de talento, gobernanza inmadura, herramientas fragmentadas, desalineación regulatoria.

La conclusión operativa es clara: las defensas más efectivas no son parches al modelo, sino controles arquitectónicos, organizativos y procedimentales que reduzcan el radio de consecuencia, mejoren la observabilidad y preserven la autoridad de intervención.

Soberanía de datos y cadena de suministro: el ángulo latinoamericano

Ha dejado de ser variable de fondo la geopolítica tecnológica. En el ecosistema de canal ibérico y latinoamericano, directivos de Microsoft, SonicWall, Stormshield y ADM Cloud & Services coinciden: la residencia del dato, la jurisdicción aplicable y la resiliencia del proveedor son hoy variables centrales de gestión La IA, la seguridad y las nuevas expectativas de servicio redefinen la confianza entre MSP y clientes. Borja Pérez, de Stormshield, lo resume: cualquier región que delegue la protección de sus activos esenciales en herramientas controladas por potencias extranjeras se convierte en zona de alta vulnerabilidad operativa.

Para una empresa latinoamericana que opera infraestructura crítica —una eléctrica en México, un banco en Brasil, un hospital en Colombia—, la ecuación tiene tres patas:

1. Dónde vive el dato: EFS de Anthropic permite que la información nunca abandone la nube del cliente. Eso encaja con LGPD en Brasil, la Ley 25.326 en Argentina o las normas sectoriales de protección de datos financieros y de salud en la región. 2. Quién controla el modelo: los marcos de OpenAI y Anthropic exigen controles de seguridad "High" o "Critical" que incluyen gestión de claves, aislamiento de red y auditoría de cadena de suministro (AI-BOM). Si el proveedor no ofrece despliegue en región o bajo control contractual local, la superficie de riesgo se expande.

3. Capacidad de respuesta propia: el paper de CSIRO advierte que la dimensión RD5 (Response Capacity) es el multiplicador de todos los demás. Sin equipo interno que entienda el comportamiento probabilístico de la IA, detecte anomalías en decisiones automatizadas y tenga playbooks de contención, cualquier salvaguarda del proveedor llega tarde.

Preguntas para el comité de dirección

• ¿Tenemos inventario de qué modelos fronterizos (propios o de terceros) tocan procesos OT/IT críticos y bajo qué jurisdicción operan?
• ¿Existe un AI-BOM actualizado de cada pipeline de IA que entra en producción, con trazabilidad de datos de entrenamiento, pesos y dependencias de terceros?
• ¿Hemos definido umbrales de autonomía: qué decisiones puede tomar un agente sin validación humana y cuál es el mecanismo de parada de emergencia?
• ¿El plan de respuesta a incidentes contempla escenarios de cascada cross-sistema disparados por fallos de IA (alucinación coordinada, envenenamiento de corpus compartido, bucle de optimización descontrolado)?

Esta carrera de los laboratorios por demostrar "seguridad por diseño" es una señal de mercado: el umbral de exigencia para contratar IA en sectores regulados va a subir. Quien no tenga respuestas técnicas y contractuales para estas preguntas estará comprando capacidad a ciegas —y en infraestructura crítica, la ceguera se paga con continuidad de servicio.