La urgencia de regular la IA con capacidad de ciberataque

El mismo razonamiento que llevó a celebrar los modelos de lenguaje de gran escala como el mayor avance de productividad en décadas guarda un reverso que las juntas directivas prefieren no mirar: esa misma tecnología, en manos equivocadas, convierte un ataque cibernético en un proceso casi industrial. La advertencia no llega desde un laboratorio de seguridad, sino desde la política. El líder del partido japonés Team Mirai, Takahiro Anno, señaló este mes que los modelos de IA con alta capacidad de ciberataque ya se están difundiendo y que, ante la sucesión de filtraciones de datos, la respuesta no puede esperar. No es un argumento teórico: es la constatación de que el plazo que él mismo había calculado se cumplió antes de lo previsto.

En abril, Anno había declarado ante el parlamento de su país que apenas faltaban meses para que circularan modelos con una capacidad ofensiva comparable a la de Claude Mythos, el sistema de Anthropic. En agosto, la empresa china Z.ai publicó GLM-5.3, un modelo abierto cuyo desempeño, a su juicio, se acerca a ese nivel. A principios de octubre, la misma voz confirmó el escenario: mientras se multiplican los casos de información expuesta, esa clase de modelo ya está en circulación.

La cronología debería inquietar a cualquier responsable de seguridad: lo que se proyectaba como un riesgo de mediano plazo se materializó en cuestión de meses, con una ventaja adicional para el atacante — el modelo abierto no tiene muro de pago ni cláusula de uso que limite sus fines.

La ofensiva se abarata

La investigación académica confirma que el problema no es la aparición de una superinteligencia maligna, sino algo mucho más mundano y urgente: la reducción drástica del costo de atacar. Un análisis presentado en la conferencia ICCSDFAI 2026 de IEEE concluye que la IA no modifica la ofensiva creando clases de ataque completamente nuevas, sino comprimiendo el costo del reconocimiento, el phishing, la adaptación del malware y el soporte al operador. El riesgo inmediato, advierten los autores, es la aceleración de los flujos de trabajo ofensivos, no una autonomía impecable. Traducido a la operación diaria: un atacante con habilidades medias ejecuta hoy campañas que antes exigían un equipo especializado.

Los datos empíricos apuntan en la misma dirección. Una revisión sistemática de 32 estudios indexados en Scopus y Web of Science identificó que los ataques adversariales, la generación de malware con modelos generativos, el phishing automatizado, la manipulación de tráfico y la explotación de dispositivos del internet de las cosas son las técnicas más prevalentes, con tasas de evasión superiores al 70 % en diversos escenarios.

Los controles tradicionales — cortafuegos, sistemas de detección de intrusiones, autenticación biométrica e incluso arquitecturas de confianza cero — muestran limitaciones frente a métodos que explotan las debilidades de los modelos de aprendizaje automático sobre los que se apoya la defensa. La conclusión de los autores es inquietante: la brecha entre capacidades ofensivas y defensivas se amplía, y las organizaciones quedan cada vez más expuestas a ataques autónomos y dinámicos.

Lo que la región no puede ignorar

Para América Latina, el diagnóstico tiene una lectura particularmente incómoda. La región no parte de una posición de fuerza en materia de controles de seguridad: la adopción de modelos de gobernanza de datos recién madura, los equipos de respuesta a incidentes son escasos y la regulación sobre inteligencia artificial es fragmentaria y reactiva. Mientras los congresos discuten transparencia algorítmica y derecho a la explicabilidad, casi nadie regula la capacidad ofensiva de los modelos de pesos abiertos ni exige una evaluación de riesgo antes de publicarlos. El caso de Corea del Sur funciona como advertencia: tras flexibilizar normas de seguridad bancaria para agilizar el uso de IA contra los ataques, el país terminó padeciendo ataques impulsados por las mismas tecnologías.

La regulación no es un trámite burocrático; es una decisión de costos. Cada mes de retraso en exigir estándares mínimos de seguridad para el entrenamiento y la distribución de modelos con capacidad ofensiva es un mes en el que el presupuesto de las áreas tecnológicas latinoamericanas se destina a cubrir un riesgo que ya se podría haber mitigado. Las juntas directivas que hoy celebran la adopción de herramientas de IA para el negocio deberían preguntarse también qué están haciendo con esa misma tecnología cuando queda en manos de quien quiere vulnerarlas. Porque mientras los gobiernos terminan de redactar reglas, la única política efectiva sigue siendo la que cada empresa decida implementar por su cuenta.

¿Cuántas de las reuniones de directorio dedicadas al potencial de la inteligencia artificial han puesto sobre la mesa la pregunta inversa: qué pasa si la IA que usa su competidor — o su enemigo — es la misma que usted está entrenando para defenderse? Mientras esa pregunta no se responda con políticas concretas y no con manuales de buenas intenciones, la urgencia de regular el uso ofensivo de la IA seguirá siendo una advertencia que nadie quiso escuchar a tiempo.