Cuando la IA revela los sesgos que nadie quiere ver

Un legislador de Nuevo Brunswick, Canadá, cometió un error que podría pasar a los anales de la vergüenza política en la era de la inteligencia artificial. Durante un discurso en la asamblea legislativa provincial, Bill Oliver, del Partido Conservador Progresista, leyó en voz alta la instrucción explícita de un modelo de lenguaje: "Aquí hay una versión más natural y fluida de esa sección que suena a discurso legislativo en lugar de una serie de puntos cortos". La frase, idéntica a los metatextos que los asistentes de IA generan cuando reciben un texto original y proponen una alternativa estilizada, fue difundida primero en redes sociales y luego recogida por medios como la Canadian Broadcasting Corporation y The Toronto Star.

El incidente, más allá de su ridiculez, abre una ventana incómoda sobre cómo los políticos y las instituciones están delegando tareas que exigen juicio y criterio a sistemas que no tienen ninguno. Pero el problema de fondo es más profundo que una simple sustitución de escritura: la evidencia acumulada muestra que los modelos de lenguaje no son neutrales, y que su sesgo político no solo existe, sino que se manifiesta de forma distinta según el idioma en que se les pregunte.

Un estudio publicado en arXiv por un investigador de Microsoft encontró que dos modelos de frontera —ChatGPT 5.2 y Claude Opus 4.5— analizaron un mismo documento de la sociedad civil ucraniana de forma radicalmente distinta cuando se les pidió hacerlo en ruso o en ucraniano. La fuente era idéntica en ambos casos, pero las interpretaciones divergieron: el prompt en ruso llevó a los modelos a describir a los firmantes como una "cuasiélite" dedicada a la "supervisión ideológica", mientras que el ucraniano los presentó como una "élite cívica profesionalizada" que ejerce un "control normativo del poder desde abajo". La diferencia no era de matiz: era de adscripción discursiva, alineándose automáticamente con la narrativa dominante asociada a cada lengua.

Para una empresa o un gobierno en América Latina, esto debería ser una señal de alerta. Cuando un ejecutivo usa un modelo en español para analizar un informe sobre una reforma tributaria, o cuando una asamblea legislativa como la de Nuevo Brunswick encarga a un LLM la redacción de borradores, no está obteniendo un análisis objetivo: está contratando a un sistema que replica la lente cultural y política del idioma en que se le pregunta. Y si el modelo se entrena mayoritariamente con datos en inglés, el sesgo no desaparece al cambiar de lengua, sino que se reconfigura sutilmente, como documentan estudios sobre la transferencia de sesgos de género y étnicos entre idiomas.

El caso de Oliver es sintomático de algo más sistémico: la tentación de usar IA como sustituto del pensamiento, no como herramienta de apoyo. Los tribunales estadounidenses ya han empezado a sancionar a abogados que presentan documentos con alucinaciones generadas por modelos de lenguaje. En Mississippi, cuatro abogados fueron multados y dos fueron inhabilitados por dos años para litigar en una corte federal tras incluir jurisprudencia falsa creada por IA. Si un profesional del derecho enfrenta esas consecuencias, ¿qué debería esperar un político que, por pereza o por falta de rigor, introduce en el registro público un texto que no solo no escribió, sino que no verificó?

La pregunta que debería inquietar a quienes toman decisiones en la región no es si los políticos latinoamericanos usarán o no estos sistemas —lo harán, más temprano que tarde— sino si las organizaciones están preparadas para auditar y corregir el sesgo que esos sistemas traen incorporado. La IA no resuelve el problema de la calidad del discurso público: lo replica, lo amplifica y, lo que es peor, lo oculta bajo una capa de aparente fluidez.

El verdadero riesgo no es que un diputado lea una instrucción de ChatGPT en el Congreso. Es que nadie se dé cuenta de que lo está haciendo.