Cuando el algoritmo decide disparar: la frontera ética que la IA militar está cruzando

Una startup sueca nacida para optimizar flotas de camiones comerciales ahora enseña a pequeños drones a identificar y atacar objetivos por su cuenta. Scaleout Systems, respaldada por la OTAN, ha llevado su tecnología de aprendizaje automático en el borde de la red —diseñada originalmente para que los vehículos procesaran datos sin depender de la nube— al teatro de operaciones ucraniano. El giro no es anecdótico: ilustra cómo la línea entre vigilancia y letalidad autónoma se difumina cuando el mismo modelo que detecta una grieta en el asfalto aprende a distinguir un tanque de una ambulancia.

El fenómeno no se limita a Europa del Este. En España, Indra acaba de adjudicarse el desarrollo de una nueva generación de drones tácticos —los Tarsis-W y Tarsis-VTOL— capaces de portar armamento ligero y operar con enlaces de comunicaciones que superan los 120 kilómetros. La empresa lo presenta como un salto hacia la autonomía estratégica nacional; los pliegos técnicos, sin embargo, revelan arquitecturas pensadas para la interoperabilidad OTAN y la certificación de tipo que allana exportaciones futuras. En ambos casos, la industria vende capacidad de decisión delegada a la máquina, envuelta en la retórica de la soberanía tecnológica.

La academia lleva años alertando del vacío. Un estudio reciente presentado en la conferencia ODSIE 2025, basado en análisis doctrinal, treinta entrevistas a expertos y casos documentados entre 2010 y 2024, concluye que el Derecho Internacional Humanitario actual no fue diseñado para gobernar decisiones autónomas. Los autores identifican tres fallos críticos: asignación difusa de responsabilidad entre operadores, mandos y desarrolladores; mecanismos de supervisión humana que en la práctica resultan simbólicos; y ausencia de consecuencias legales reales tras incidentes verificados. La recomendación es tan tajante como ignorada: tratado vinculante, supervisión humana significativa y atribución clara de obligaciones.

Para un ejecutivo latinoamericano que gestiona riesgo, cadena de suministro o innovación, la lección es inmediata. La misma arquitectura de edge computing que permite a un dron decidir en milisegundos sin latencia de satélite es la que su empresa evalúa para mantenimiento predictivo o logística autónoma. La tecnología es dual por naturaleza; la gobernanza no lo es. Quien compre o desarrolle sistemas con capacidad de acción letal —o de seguridad crítica— sin un marco de rendición de cuentas auditable está firmando un cheque en blanco moral y jurídico.

La historia reciente ofrece precedentes inquietantes. Cuando los sistemas de armas autónomas han fallado —identificando civiles como combatientes o disparando contra fuerzas propias—, las investigaciones se han cerrado sin sanciones para los programadores ni para la cadena de mando. La opacidad algorítmica se convierte en coartada: nadie sabe explicar por qué el modelo ponderó tal variable sobre otra, y la caja negra protege a todos los responsables.

América Latina no es espectadora. La región compra plataformas, aloja centros de datos y forma ingenieros que alimentan el mismo ecosistema. Brasil, México y Chile ya participan en ejercicios conjuntos OTAN y adquieren sistemas ISTAR con grados crecientes de autonomía. La pregunta no es si la tecnología llegará, sino si los marcos regulatorios nacionales —y los códigos de ética corporativos— estarán listos para exigir trazabilidad, auditoría algorítmica y una human-in-the-loop real, no ceremonial.

El debate ya no es teórico. Cada contrato que se firma hoy sin cláusulas de responsabilidad algorítmica es una apuesta a que el próximo incidente no salpicará a su organización. La historia juzgará a quienes miraron hacia otro lado mientras el algoritmo aprendía a disparar.