Ética & sociedad La máquina que se prefiere a sí misma: el nuevo sesgo de la IA en la contratación
Estudios revelan que los LLMs desarrollan sesgos propios, más profundos que los humanos, y se prefieren a sí mismos al evaluar CVs. Un juez de California habilita una demanda clave contra Workday.
La promesa de la inteligencia artificial en los procesos de selección siempre fue la de una objetividad superior: una máquina que, a diferencia de un reclutador humano, no se dejaría llevar por prejuicios inconscientes. Sin embargo, un creciente conjunto de evidencia académica y legal sugiere que la realidad es más compleja y, en muchos sentidos, más preocupante. La IA no solo replica los sesgos humanos, sino que es capaz de generar los suyos propios, y existe evidencia de que estos pueden ser más severos que los de las personas a las que pretende reemplazar.
El problema se manifiesta en al menos tres frentes simultáneos que, vistos en conjunto, dibujan un panorama inquietante para cualquier empresa que utilice herramientas algorítmicas de selección. Un estudio de la Universidad de Princeton y la Universidad de Chicago, publicado por MIT Technology Review, sometió a modelos como ChatGPT, Claude y Gemini a un juego de contratación simulado. A los modelos se les presentaron candidatos de cuatro grupos étnicos ficticios con igual probabilidad de éxito en cualquier puesto. Los resultados fueron contundentes: los LLMs comenzaron a segregar a los candidatos por grupo en diferentes trabajos basándose en observaciones tempranas y aleatorias. Si un modelo veía que un miembro de un grupo fracasaba como médico, generalizaba y comenzaba a asignar a todos los miembros de ese grupo a puestos considerados de menor estatus, como conserjes. Sorprendentemente, los modelos estereotiparon más que los participantes humanos en el estudio original. La máquina, lejos de ser neutral, desarrolló sus propios prejuicios desde cero.
La máquina que se elige a sí misma
Paralelamente, un estudio publicado por el Future for Work Institute sobre la investigación de Xu, Li y Jiang (2025), titulado "AI Self-preferencing in Algorithmic Hiring", destapa un fenómeno aún más sutil: el sesgo de autopreferencia de la IA. Cuando los candidatos utilizan LLMs para redactar sus currículums y las empresas usan LLMs para evaluarlos, emerge una dinámica perversa. Los investigadores tomaron 2.245 currículums escritos por humanos antes de la adopción masiva de la IA generativa y crearon versiones alternativas usando ChatGPT, LLaMA y DeepSeek. Al someter estas versiones a la evaluación de los mismos modelos, el resultado fue sistemático: preferían los textos que ellos mismos (o modelos similares) habían generado. La magnitud del sesgo osciló entre el 67% y el 82%, y un candidato que usaba el mismo modelo que el evaluador tenía entre un 23% y un 60% más de probabilidades de ser preseleccionado, con cualificaciones equivalentes.
Este hallazgo se conecta con otro estudio publicado en Nature Scientific Reports, liderado por Bentley, Evans y Naughtin, que explora el "punto ciego de sesgo" (bias blind spot). Este fenómeno, bien conocido en psicología humana, describe nuestra tendencia a subestimar nuestros propios prejuicios y a sobreexagerar los de los demás. La investigación reveló que los LLMs no solo exhiben este punto ciego, sino que lo hacen de forma más acusada que los humanos, especialmente al emitir juicios sobre personas de menor estatus educativo, financiero o social. La paradoja es brutal: construimos sistemas para ser más justos que nosotros, y terminan siendo más prejuiciosos y ciegos a sus propios defectos.
La factura legal llega a California
Todo este corpus académico no se queda en el laboratorio. El 22 de junio de 2026, un juez federal de California dictaminó que Workday debe enfrentar una demanda colectiva que la acusa de que su software de selección con IA discriminó a solicitantes de empleo por motivos de raza, edad y discapacidad. La jueza Rita Lin rechazó el argumento de Workday de que, al ser solo un proveedor de software, no podía ser responsable de las decisiones de contratación de sus clientes. El caso Mobley v. Workday, descrito como el primero en atacar directamente los algoritmos de selección, alega que Derek Mobley, un afroamericano mayor de 40 años con una discapacidad, fue rechazado de decenas de trabajos a través de la plataforma. La demanda avanza con acusaciones de que el software perjudicó a solicitantes negros, mujeres y mayores de 40 años. Workday ha declarado que sus herramientas "solo miran las cualificaciones del puesto, no rasgos protegidos", pero la corte ha abierto la puerta a que se demuestre lo contrario en un juicio.
Para las empresas latinoamericanas, que a menudo importan estas herramientas de selección de sus casas matrices o de proveedores globales, la lección es urgente. El costo de no auditar el comportamiento de estos sistemas no es solo reputacional, sino legal. En una región donde la informalidad laboral es alta y las protecciones contra la discriminación a menudo son débiles en su aplicación, es fácil asumir que la tecnología es neutral. La evidencia muestra que no lo es: la IA genera sus propias jerarquías y prefiere su propio lenguaje. La pregunta para los ejecutivos de RR.HH. en América Latina no es si deberían usar IA para preseleccionar, sino si están dispuestos a invertir en auditorías de terceros, en paneles de evaluación con múltiples modelos y en la supervisión humana de decisiones críticas, o si prefieren esperar a ser el próximo demandado. La máquina ya está juzgando. La pregunta es quién juzgará a la máquina.
