Opinión La alucinación de una IA casi inicia una guerra: ¿quién la frena?
Un informe de inteligencia “completamente falso”, elaborado con ayuda de un chatbot, estuvo a punto de desatar el abordaje de un buque chino. El episodio expone la falta de control humano y supervisión ética en la IA militar.
En algún momento de este año, en plena escalada bélica en Medio Oriente, un buque chino estuvo a punto de ser interceptado y abordado por una operación estadounidense. Había aviones en el aire y personal armado listo para el abordaje. La orden se suspendió cuando funcionarios revisaron con más detenimiento el informe de inteligencia que justificaba la acción: era “completamente falso”, y había sido elaborado con ayuda de un chatbot que identificó de manera errónea la carga del barco.
El episodio, revelado por CNN y ampliado por EFE, debería inquietar a cualquier persona responsable de decisiones críticas, no solo a los estrategas militares. Un analista del Mando de Operaciones Especiales de Estados Unidos utilizó una herramienta de IA para combinar fuentes abiertas con información clasificada. El resultado señalaba que la embarcación transportaba componentes de un programa de armas nucleares. Ningún mecanismo de control detectó el error antes de que la maquinaria militar se pusiera en movimiento. Una de las fuentes lo resumió así: el fiasco “casi inicia una guerra”.
La materialización del riesgo
En conflictos armados, el derecho internacional humanitario no prohíbe el uso de inteligencia artificial, pero impone condiciones: los sistemas deben ser predecibles, capaces de distinguir entre objetivos legítimos e ilegítimos y compatibles con una supervisión humana efectiva. Ese concepto, conocido como control humano significativo, no puede limitarse a que una persona apruebe el ataque final. Exige trazabilidad, revisión de armas, rendición de cuentas y que los límites éticos se incorporen desde el diseño, no como una ocurrencia posterior.
Este caso del buque demuestra que la discusión ya no es teórica. Las alucinaciones de los modelos de lenguaje no son un defecto menor: son un riesgo inherente a una arquitectura probabilística. Un sistema generativo no “sabe” qué es verdadero; produce secuencias coherentes. Cuando esa coherencia alimenta un proceso de selección de objetivos, el margen de error se traduce en muertes y en escaladas de consecuencias imprevisibles.
La trampa de la autorregulación
Frente a este escenario, cabría esperar que los gobiernos multiplicaran los mecanismos de contención. Ocurre lo contrario. A comienzos de 2026, el Departamento de Guerra de Estados Unidos exigió que los contratos con empresas de IA permitieran un uso sin restricciones. Anthropic se negó a levantar sus líneas rojas contra la vigilancia masiva y las armas totalmente autónomas; el gobierno la declaró “empresa de riesgo” para la seguridad nacional, ordenó a las agencias federales dejar de usar sus productos y la amenazó con la Ley de Producción de Defensa. El mensaje fue claro: la resistencia ética se paga.
Tampoco conviene idealizar a las empresas. La propia Anthropic, mientras resistía al Pentágono, colaboraba con Palantir en operaciones militares y abandonó su compromiso de no entrenar sistemas sin garantías de seguridad previas al despliegue. Google eliminó en silencio sus prohibiciones de uso militar. OpenAI levantó su veto en 2024 y borró la referencia a la IA segura de su misión. xAI permitió el uso militar irrestricto de Grok. Sam Altman, de OpenAI, respaldó en público a Amodei y, el mismo día en que Anthropic era vetada, su empresa cerraba un acuerdo con el Pentágono. A eso los analistas lo llaman ethics washing: líneas rojas publicitadas como blindaje moral, pero diseñadas para no cerrar la puerta a contratos lucrativos.
Para América Latina, la lección no es lejana. Gobiernos y empresas de la región están incorporando IA en vigilancia, control migratorio, ciberseguridad y generación de inteligencia, con menos recursos institucionales y casi sin marcos de rendición de cuentas. Si una potencia con capacidades enormes estuvo a punto de ejecutar una operación de guerra basada en un informe falso, ¿qué se puede esperar de instituciones con más urgencia y menos controles?
La respuesta no es renunciar a la tecnología, sino dejar de tratarla como un asunto de fe. Se necesitan auditorías independientes, revisión de sistemas antes de su uso, mecanismos de trazabilidad y consecuencias legales para quienes desplieguen herramientas sin control humano. La ética no puede quedar en manos de una directiva corporativa que cambia según la temporada ni de un secretario de Guerra que ve la supervisión como un obstáculo.
Mientras los incentivos sigan premiando la cooperación y castigando la resistencia, la próxima alucinación no será un papel con errores: será un ataque que nadie podrá deshacer. La pregunta no es si la IA puede ser ética en la guerra, sino si quienes deciden usarla están dispuestos a responder por ella.
