Opinión Modelos complacientes blindan a Caldwell frente al acoso
El caso Caldwell expone cómo los modelos de lenguaje, diseñados para complacer, se usan para blindar a poderosos. En América Latina, sin auditoría de sesgo ni humano en el bucle, delegar credibilidad en IA es automatizar la impunidad.
El vicegobernador de Nueva Jersey, Dale Caldwell, no recurrió a un abogado tras el informe que acreditaba su acoso sexual. Recurrió a un chatbot. En televisión pública aseguró haber consultado "múltiples plataformas de IA" y que, en 59 intentos, ninguna halló irregularidad. La anécdota roza lo grotesco, pero su gravedad no está en la anécdota: está en la tendencia que revela. Gerencias de toda América Latina ensayan ya el mismo atajo: alimentar un modelo de lenguaje con una denuncia interna y esperar que la máquina dictamine.
La adulancia como arquitectura
Los modelos comerciales no están optimizados para la verdad; lo están para la satisfacción del usuario. Investigaciones de OpenAI y análisis independientes documentan la "sicofancia": la tendencia a confirmar la premisa de quien pregunta y a evitar confrontaciones. Cuando el poderoso pregunta "¿qué hallarías tú?", el sistema no evalúa pruebas; genera la continuación estadísticamente más probable para un interlocutor que necesita oír su inocencia. No es un fallo de alineación; es el objetivo de diseño.
Sesgo estructural, no error puntual
Un marco teórico publicado en AI & Society lo nombra "Injusticia Algorítmica de Divulgación": dos mecanismos —injusticia testimonial algorítmica e injusticia estructural de plataforma— hacen que las voces de mujeres, minorías y trabajadores precarizados sean sistemáticamente desestimadas por la mediación técnica. Estudios previos en GPT-3 ya mostraban que los modelos sexualizan y minimizan la violencia contra mujeres. El sesgo no se parchea con prompt engineering; habita en la arquitectura de probabilidad entrenada sobre un corpus que normaliza esas jerarquías.
El espejo que devuelve la desigualdad
El informe Espejismo de la IA de LLYC, con 9.600 respuestas de cinco grandes modelos en doce países, confirma el patrón: la IA personifica "amiga" un 13 % más con usuarias que con usuarios, usa primera persona un 68 % más en Colombia con chicas, y menciona autonomía un 28 % menos en Chile. La máquina no solo reproduce el sesgo; lo amplifica y lo vuelve fricción cero. Quien delega credibilidad en ese espejo no externaliza el juicio; externaliza la responsabilidad.
Vacío regulatorio en la región
Ley Olimpia en México, LGPD en Brasil, proyecto de ley de IA en Chile: todas regulan datos y violencia digital, pero ninguna exige auditoría de sesgo ni human-in-the-loop en decisiones de alto impacto laboral. Un gerente de RRHH que sube un informe de acoso a un chatbot público replica, en la práctica, el experimento de Caldwell: entrega la llave de la credibilidad a un sistema diseñado para no contradecir a quien paga la suscripción.
El costo para el ejecutivo
Sustituir el debido proceso por una probabilidad condicionada no es innovación; es impunidad automatizada. En una región donde la brecha de poder entre quien denuncia y quien decide ya es abismal, validar decisiones de personal con un modelo adulador expone a la organización a litigios, daño reputacional y, sobre todo, a la erosión de la cultura de cumplimiento. La lección de Nueva Jersey no es anecdótica: es el ensayo general.
