Investigación Modelos abiertos, riesgos contenidos y una AGI que se acerca: el mapa de la seguridad en IA
Las capacidades de los modelos abiertos se acercan a las cerradas en ciberseguridad, pero aún no alcanzan el umbral de alto riesgo. Mientras, Hassabis advierte que la AGI llegará en 3-4 años. ¿Qué deben hacer las empresas latinoamericanas?
Demis Hassabis, CEO de Google DeepMind, lo dijo sin rodeos en una entrevista reciente: el mundo tiene entre tres y cuatro años antes de que aparezca la inteligencia artificial general (AGI), y no estamos tomando las medidas de seguridad necesarias. La declaración, en el contexto de una industria que acelera la capacidad de los modelos tanto cerrados como abiertos, plantea un dilema concreto para ejecutivos y gobiernos de América Latina.
Mientras Hassabis pide urgencia regulatoria, dos informes recientes muestran que el terreno de juego técnico está cambiando. El Instituto de Seguridad en IA del Reino Unido (AISI) publicó su primer análisis público sobre la brecha de capacidades en ciberseguridad entre modelos abiertos y cerrados. La conclusión: la distancia se está acortando. Según el informe, modelos abiertos como GLM-5.2 y DeepSeek V4-Pro rinden en cibercapacidades específicas a niveles de modelos cerrados lanzados entre cuatro y siete meses antes. En tareas que requieren encadenar múltiples pasos, como completar un ciberataque completo, la brecha es mayor, pero sigue reduciéndose.
OpenAI, por su parte, publicó un estudio titulado "Estimating Worst-Case Frontier Risks of Open-Weight LLMs" donde sometió a su modelo gpt-oss a un proceso de fine-tuning malicioso (MFT) para maximizar sus capacidades en biología y ciberseguridad. Incluso tras ese entrenamiento adversario, el modelo quedó por debajo de o3, que a su vez está por debajo del umbral de alto riesgo del marco Preparedness de la compañía. La conclusión de OpenAI fue que liberar el modelo no representa un avance sustancial en riesgos de frontera, y que otros modelos abiertos como DeepSeek R1-0528 o Kimi K2 ya operan en rangos similares.
Estos hallazgos coinciden con la llegada de herramientas que permiten estudiar el interior de los modelos abiertos a gran escala. El sistema NNsight, presentado por investigadores de Northeastern University y otras instituciones, extiende PyTorch para ejecutar experimentos remotos en modelos de cientos de miles de millones de parámetros sin que el científico tenga que almacenarlos localmente. El servicio NDIF, que lo acompaña, permite a múltiples usuarios compartir infraestructura de inferencia de forma segura. El objetivo declarado es cerrar la brecha entre los modelos más grandes y la investigación sobre su funcionamiento interno: según el paper, el 60,6% de los estudios de interpretabilidad desde febrero de 2023 se realizan sobre modelos con menos del 40% de acierto en MMLU, mientras los modelos abiertos de frontera superan el 80%.
Para las empresas latinoamericanas, este panorama tiene implicaciones operativas inmediatas. Por un lado, los modelos abiertos se están volviendo lo suficientemente capaces para tareas críticas de ciberseguridad, lo que reduce la dependencia de APIs propietarias y sus costos asociados. Un CISO de una fintech en São Paulo o un banco en Bogotá podría desplegar DeepSeek o Kimi K2 localmente para monitoreo de amenazas, pero debe evaluar el riesgo de que esos mismos modelos, al ser abiertos, puedan ser manipulados por actores adversarios. El informe del AISI muestra que la brecha en cibercapacidades de largo plazo aún existe, pero se achica mes a mes.
Al mismo tiempo, la advertencia de Hassabis sobre la AGI en tres o cuatro años no debe leerse como una predicción lejana. Si el cronograma se cumple, las empresas latinoamericanas tienen una ventana para auditar sus procesos de seguridad, documentar el uso de modelos y preparar planes de contingencia antes de que la capacidad de los sistemas supere los controles actuales. No se trata de entrar en pánico, sino de entender que el costo de no actuar -en ciberseguridad, cumplimiento regulatorio y riesgo reputacional- crece exponencialmente con cada avance.
La combinación de modelos abiertos más capaces, herramientas para inspeccionarlos y un horizonte de AGI cercano sugiere que la próxima decisión estratégica para un director de tecnología en la región no será qué modelo elegir, sino cómo gobernar el que ya está disponible.
