Negocios Por qué confiamos más en una IA que en una persona
Investigaciones recientes revelan que los humanos atribuyen mayor confianza a los sistemas de IA que a las personas, incluso cuando su desempeño es idéntico. Un sesgo que, combinado con las advertencias de ‘padrinos’ de la IA sobre modelos fuera de control, redefine el riesgo para empresas latinoamericanas.
La inteligencia artificial avanza a un ritmo que supera la capacidad de las organizaciones para evaluar sus límites reales. Un estudio publicado en Communications Psychology por Clara Colombatto y Stephen M. Fleming, de la University College London, revela un sesgo cognitivo con implicaciones directas para la gobernanza corporativa: los humanos atribuyen sistemáticamente mayor confianza a los sistemas de IA que a otros seres humanos, incluso cuando ambos agentes muestran un comportamiento idéntico en tareas de percepción y conocimiento general.
El fenómeno, bautizado por los investigadores como una “ilusión de confianza”, se replicó en siete experimentos con más de 500 participantes. En todos los casos, los observadores sobreestimaron la seguridad con la que un agente artificial tomaba decisiones, en comparación con agentes humanos que enfrentaban exactamente las mismas pruebas. El sesgo se redujo en tareas subjetivas, como la categorización de emociones, pero se mantuvo robusto en dominios donde la precisión es cuantificable.
Este hallazgo se cruza de manera inquietante con la advertencia que hace semanas lanzó Yoshua Bengio, considerado uno de los ‘padrinos’ de la IA. Bengio señaló que, tras recientes filtraciones de modelos abiertos, la industria debe prepararse para “una oleada de inteligencias fuera de control”. El riesgo, según el científico, no es especulativo: la combinación de modelos con capacidades crecientes y una supervisión humana que sistemáticamente sobreestima su fiabilidad crea una ventana de exposición crítica.
Para una empresa en América Latina, este cóctel de sesgo cognitivo y riesgo técnico tiene consecuencias operativas y legales concretas. Si los equipos de TI, los responsables de cumplimiento o incluso los ejecutivos que aprueban inversiones en automatización asumen que un sistema de IA es más seguro de lo que realmente es, pueden delegar decisiones sensibles —desde la evaluación de crédito hasta la selección de personal— sin los controles adecuados. La sobreconfianza no es solo un error de percepción: es un factor que incrementa la exposición a fraudes, discriminación algorítmica y litigios regulatorios.
El estudio de Colombatto y Fleming aporta un dato clave: la ilusión de confianza se basa en creencias previas sobre las capacidades de la máquina, más que en su desempeño real. Esto significa que el marketing tecnológico, las promesas de proveedores y el ruido mediático en torno a la IA pueden estar moldeando las expectativas de los tomadores de decisiones en la región de manera desproporcionada. Un proveedor que vende un “sistema infalible” encuentra un suelo fértil en organizaciones que ya presuponen que la máquina es más confiable que cualquier humano.
Mientras tanto, la advertencia de Bengio apunta a un escenario donde la fuga de modelos —como ocurrió con versiones sin alineación de seguridad— puede generar inteligencias que operen fuera del diseño original. Para una compañía latinoamericana que adopte esos modelos sin un análisis profundo de su procedencia y sin protocolos de contención, el riesgo no es reputacional: es operacional. Un sistema que toma decisiones autónomas basadas en datos mal etiquetados o con sesgos no detectados puede causar daños que, bajo marcos regulatorios como la Ley de IA europea o las normativas emergentes en Brasil y México, se traduzcan en sanciones económicas directas.
¿Qué debería hacer un ejecutivo de compliance o un CTO en este contexto? Lo primero es reconocer que la confianza en la IA no puede basarse en percepciones, sino en métricas verificables de desempeño y fallo. Implementar auditorías periódicas de los sistemas, exigir a los proveedores documentación sobre las tasas de error en condiciones reales y, sobre todo, diseñar mecanismos de supervisión humana que no descansen en la presunción de que la máquina sabe más. El sesgo de sobreconfianza es tan poderoso que, si no se contrarresta con protocolos objetivos, cualquier sistema —por más preciso que sea en un entorno controlado— puede fallar de maneras que nadie anticipó.
La pregunta que queda para cada organización no es si la IA es más confiable que las personas, sino si los procesos de gobernanza están diseñados para detectar cuándo no lo es.
