OpenAI frena a Astra: cuando la IA se vuelve demasiado peligrosa para su propio creador

OpenAI, la empresa que sueña con construir una inteligencia artificial general segura, acaba de toparse con una paradoja incómoda: su próximo modelo, Astra, demostró ser demasiado bueno para el cibercrimen. La compañía decidió suspender el desarrollo interno del modelo después de que las evaluaciones preliminares revelaran que podría identificar y explotar vulnerabilidades de día cero sin intervención humana, un umbral que ellos mismos clasifican como “crítico” dentro de su Marco de Preparación.

El caso no es aislado. Mientras OpenAI pone a Astra en cuarentena, un estudio reciente de la Universidad Estatal de Dakota analizó scripts de automatización generados por ChatGPT, Microsoft Copilot y Google Gemini. El resultado es escalofriante: todos los scripts contenían vulnerabilidades explotables, y las puntuaciones de riesgo (CVSS) variaban menos de un 10 % entre modelos. La conclusión de los investigadores es directa: el riesgo no depende de qué herramienta uses, sino de la categoría de tarea. Para un ejecutivo, esto significa que el código generado por IA para tareas cotidianas —como scraping de páginas web o envío automatizado de correos— termina incrustado en procesos empresariales sin revisión de seguridad.

Otro estudio, publicado en el marco de la conferencia ICSE 2026, analizó más de 312.000 discusiones de seguridad en Hugging Face y GitHub. Los investigadores encontraron que los problemas de seguridad en proyectos de IA crecen exponencialmente y que muchos —especialmente los relacionados con modelos y datos— carecen de soluciones concretas. La cadena de suministro de IA no solo hereda los riesgos del software tradicional, sino que añade otros nuevos: dependencias incompatibles, deserialización insegura, fuga de datos sensibles y ataques adversariales.

¿Y qué pasa en América Latina? La región está adoptando IA a un ritmo acelerado, con empresas integrando asistentes de código, chatbots y modelos de código abierto en sus operaciones diarias. El problema es que la ciberseguridad suele ser un área subdimensionada. Un CTO de una fintech mexicana o un gerente de TI en un retail chileno probablemente ya usa herramientas como Copilot o ChatGPT para generar scripts de automatización. La tentación es delegar, pero sin un proceso de revisión, esos scripts pueden convertirse en la puerta de entrada para un ataque. El caso de Astra es la confirmación de que ni siquiera los laboratorios más avanzados confían plenamente en sus propias creaciones.

OpenAI insiste en que la pausa es una prueba de que sus mecanismos de seguridad funcionan. Pero la lección para las empresas latinoamericanas es otra: si la inteligencia artificial puede hackear por sí sola, el primer paso no es preguntarse qué tan rápido se puede adoptar, sino qué tan preparado se está para contenerla.