¿Quién asume la culpa cuando un dron autónomo se equivoca en un incendio?

La promesa de la inteligencia artificial en la lucha contra incendios forestales es enorme: detectar un foco de humo en segundos, predecir su evolución y coordinar recursos antes de que las llamas amenacen viviendas. Sin embargo, un estudio con 95 bomberos en Suiza revela una grieta profunda: cuando un dron autónomo se equivoca, nadie sabe con claridad quién debe rendir cuentas. Para América Latina, donde los incendios en el Amazonas, la Patagonia y el centro de Chile se intensifican cada año, esa incertidumbre no es un detalle técnico, sino un riesgo operativo y legal.

Los sistemas basados en aprendizaje automático ya procesan datos de temperatura, humedad, viento y satélites para generar mapas de riesgo dinámicos, como describe el experto en IA Raúl Moreno Izquierdo. Drones equipados con visión artificial pueden patrullar de forma autónoma y enviar alertas geolocalizadas a los centros de mando. Incluso hay robots terrestres capaces de medir temperaturas extremas y elaborar mapas 3D del terreno. Estas capacidades están en fase de prueba en varios países y ofrecen una línea de defensa que antes era impensable.

Pero la adopción de estos agentes autónomos no es solo cuestión de eficiencia. Un artículo en Nature Machine Intelligence advierte que si no se diseñan con un marco responsable, los 'firebots' pueden entorpecer las operaciones en lugar de mejorarlas. Los bomberos confían en la intuición formada por años de experiencia y en la coordinación en equipo; una tecnología que no respete esa dinámica corre el riesgo de ser rechazada o, peor aún, de generar fallos en cadena.

El estudio de campo, presentado en la International Conference on Information Systems 2025, profundiza en el problema de la rendición de cuentas. Utilizando el marco de Bovens, los investigadores identifican dos grandes desafíos: primero, la incertidumbre sobre el rol del dron dentro de la jerarquía del cuerpo de bomberos, lo que confunde quién debe explicar y justificar las decisiones. Segundo, las nuevas formas de interacción entre humanos y drones introducen situaciones imprevistas para las que no existen protocolos claros. Por ejemplo, si un dron identifica erróneamente a un animal como una víctima humana y la prioridad de rescate se desvía, ¿responde el fabricante del software, el comandante que desplegó el dron o el bombero que siguió la instrucción?

América Latina se encuentra en una encrucijada. Países como Brasil, Chile y Colombia han comenzado a usar drones para monitorear áreas protegidas y combatir incendios. Sin embargo, los marcos regulatorios para la inteligencia artificial en servicios de emergencia son casi inexistentes en la región. Mientras que en Europa se discuten normativas como el AI Act, aquí la adopción suele preceder a la regulación. Esto deja a los cuerpos de bomberos —muchos de ellos voluntarios y con recursos limitados— expuestos a litigios o a la pérdida de confianza ciudadana si un sistema autónomo comete un error grave.

El potencial es real: la misma tecnología que predice la trayectoria del fuego puede salvar vidas y reducir la deforestación. Pero, como señala el libro de Proverbios citado por Moreno Izquierdo, «el prudente ve el peligro y se pone a salvo». La prudencia aquí implica no solo invertir en sensores y drones, sino construir desde ahora los mecanismos de rendición de cuentas que permitan usarlos sin poner en riesgo la legitimidad de las instituciones. Para las administraciones latinoamericanas, la pregunta no es si adoptarán estas herramientas, sino si lo harán con un diseño responsable que responda ante quién falla.