Cada vez que se anuncia un nuevo modelo predictivo de accidentes laborales, el titular parece escrito en la lápida del riesgo cero. Los papers académicos cantan mejoras, las consultoras venden ROI y los comités de seguridad asienten. Pero detrás del evangelio del dato hay una pregunta que nadie en el podio quiere responder: cuando la máquina predice quién va a lesionarse, ¿a quién le sirve esa predicción?
La promesa: menos muertos, más eficiencia
Los estudios recientes son reales y, en algunos casos, impresionantes. Un framework multi-modelo aplicado a operaciones siderúrgicas logró reducir accidentes graves y mejoró la predicción proactiva de incidentes, según un paper publicado en Nature (Towards safer steel operations). En la industria extractiva, un modelo de machine learning explicable procesó 2.645 accidentes para predecir la severidad de las lesiones, un sector que, como señala el estudio en ScienceDirect, sufre tasas desproporcionadamente altas de siniestralidad grave (explainable ML framework).
Y para los más sofisticados: un modelo de aprendizaje por refuerzo profundo (deep reinforcement learning) fue diseñado para anticipar riesgos en la construcción de túneles de metro (modelo en túneles de metro).
La promesa es tentadora: millones de datos de sensores, histórico de incidentes, condiciones ambientales. La máquina aprende, detecta patrones que el ojo humano no ve y avisa antes de que el brazo quede atrapado en la prensa hidráulica. Quién no querría eso.
Las grietas: datos pobres, promesas infladas
Pero la realidad estadística es tozuda. Como advierte un análisis crítico de For Easy Work, predecir accidentes en entornos industriales es brutalmente difícil porque la siniestralidad es baja: en una planta normal hay pocos accidentes, las muestras son pequeñas, las variables son heterogéneas y los modelos de IA tienden a sobreajustarse a ruido (por qué es tan difícil). El propio análisis concluye que el juicio experto sigue siendo insustituible.
Lo que se vende como "revolución predictiva" muchas veces es un modelo que, al fallar, falla hacia arriba: predice riesgo en todas partes para no dejar pasar uno verdadero. Eso inunda de alertas falsas a los supervisores, que aprenden a ignorarlas. El sistema se vuelve un perro que ladra tanto que nadie distingue al ladrón.
El elefante en la sala del comité de seguridad
Aquí es donde entra el filo que incomoda. Cuando una empresa despliega un modelo predictivo, ¿qué hace con la predicción? ¿Invierte en rediseñar la línea de producción, o usa el dato para despedir al trabajador señalado como "de alto riesgo"? ¿Comparte el modelo con los sindicatos o lo guarda como arma de negociación?
En la historia de la tecnología laboral abundan herramientas que empezaron como protección y terminaron como control. Los wearables que miden fatiga pueden salvar vidas… o servir para sancionar a quien se detiene a descansar. Los datos no son neutrales: son propiedad de quien paga el software.
En Europa, el Reglamento de Inteligencia Artificial comienza a desplegar la mayor parte de sus obligaciones este 2 de agosto, con medidas clave que se aplicarán gradualmente (nuevas reglas europeas). La seguridad laboral encaja como candidata a sistema de alto riesgo: decisiones que afectan la integridad física de las personas deberían exigir transparencia, auditoría y derecho a impugnación. Pero la letra fina aún se está escribiendo.
¿Predicción o responsabilidad?
Esta es la pregunta incómoda final: ¿la predicción de accidentes reduce la siniestralidad, o solo desplaza la culpa? Cuando un modelo dice que Juan, de 52 años, tiene el doble de probabilidad de lesionarse que el resto, la empresa puede rediseñar su puesto… o puede registrarlo como "factor de riesgo humano" y lavarse las manos si Juan se accidenta.
Puede salvar vidas la IA predictiva. Pero mientras los datos, los modelos y las decisiones estén en manos de una sola parte, tendremos que preguntarnos no solo si el modelo es correcto, sino para quién es correcto. La próxima vez que un ejecutivo presuma del ROI de la seguridad predictiva, conviene preguntar cuántos de esos ahorros vienen de menos accidentes y cuántos de menos indemnizaciones pagadas. Esa diferencia es lo que separa la prevención del pretexto.
