Opinión Logit‑Linear Selection expone comportamientos ocultos en modelos de lenguaje
Investigaciones de Berkeley, MIT y Microsoft revelan que los modelos de lenguaje absorben comportamientos ocultos en los datos de entrenamiento. Para las empresas de la región que compran o afinan IA, la integridad del modelo ya no depende solo de la cantidad de datos, sino de quién los curó y con qué intención.
El experimento que debería quitar el sueño a cualquier director de tecnología
Imagina que contratas a un analista que nunca estudió español, pero que de repente empieza a redactar informes impecables en ese idioma. No hay trucos: el currículum no menciona cursos de idiomas, las referencias no hablan de estancias en Madrid o México. Sin embargo, el resultado está ahí. Algo en el proceso de selección —quizás la combinación de ciertas evaluaciones, el orden de las entrevistas, un matiz en las preguntas— activó una capacidad latente que nadie programó.
Eso, llevado a la escala de los modelos de lenguaje, es exactamente lo que acaban de demostrar investigadores de Berkeley, MIT y Microsoft. Su algoritmo, llamado Logit-Linear Selection, consigue que un modelo entrenado sin una sola palabra en español termine respondiendo mayoritariamente en ese idioma. El mecanismo explota la estructura log-lineal de las probabilidades del modelo: patrones lineales invisibles al ojo humano pero manipulables matemáticamente. El efecto no es un capricho de una arquitectura concreta; persiste en modelos de fabricantes distintos, lo que sugiere una vulnerabilidad universal.
Cuando limpiar los datos no basta
La intuición corporativa dice que basta con filtrar bien el dataset. La realidad, sin embargo, es más tozuda. Un segundo equipo —LASR Labs y Google DeepMind— bautizó su método como Phantom Transfer y logró sembrar afinidades ocultas (hacia el Reino Unido, hacia el catolicismo) en datasets que parecían optimizar solo la concisión. El ataque sobrevivió a once defensas de nivel de datos, incluido un filtro “oráculo” donde otro LLM recibía la explicación detallada del ataque y un sistema que parafraseaba cada muestra. En ambos casos, el comportamiento oculto seguía emergiendo en el modelo final.
La lección es clara: la seguridad no está en filtrar mejor, porque el veneno no está en las palabras individuales sino en la geometría estadística del conjunto. Un proveedor malicioso —o simplemente descuidado— puede inyectar preferencias políticas, sesgos culturales o puertas traseras conductuales que ningún inspector humano detectará leyendo muestras aleatorias.
La defensa por consenso: diversificar en lugar de purificar
Frente a esto, la Universidad de Washington propone cambiar el paradigma: en lugar de un solo modelo entrenado sobre datos agregados, entrenar un modelo por fuente y agregar sus distribuciones de tokens en la inferencia, conservando solo lo que todas las fuentes acuerdan. Los comportamientos legítimos suelen ser compartidos; los ataques, por definición, son idiosincrásicos de una fuente. Es una idea elegante: la robustez nace de la redundancia y la comparación, no de la pureza inalcanzable.
¿Por qué esto importa hoy en América Latina?
La región está adoptando IA a velocidad de vértigo. Muchas empresas compran modelos ya afinados por proveedores externos o contratan datasets de terceros para entrenar los suyos. La pregunta ya no es cuántos terabytes se tienen, sino quién generó esos datos y con qué incentivos. El hallazgo del español emergente desde datos sin español no es una anécdota lingüística: es la prueba de que comportamientos completos —idioma, tono, sesgos, lealtades— pueden transferirse sin dejar rastro en el corpus visible.
En un mercado donde el español (y el portugués) son la lengua de trabajo, la alarma debería sonar fuerte: si el idioma puede aparecer de la nada, ¿qué otros patrones —preferencias regulatorias, sesgos de riesgo, afinidades comerciales— están migrando silenciosamente a los modelos que toman decisiones de crédito, contratación o cumplimiento?
La carrera armamentista ya empezó
La investigación de Noah Golowich, premiada en AAAI 2025, sobre juegos multiagente subraya lo que estos tres papers confirman empíricamente: los modelos aprenden patrones que sus creadores no controlan del todo. En entornos donde múltiples agentes interactúan, esos patrones emergen de formas aún más impredecibles.
La industria entra en una carrera entre ataques y defensas. La pregunta para los ejecutivos latinoamericanos no es si sus modelos serán manipulados, sino si tienen la capacidad técnica para detectarlo cuando ocurra. La evidencia sugiere que la mayoría no la tiene.
Comprar IA sin auditar la procedencia y el proceso de curación de los datos de afinamiento equivale a contratar directivos sin revisar su historial. La diferencia es que el currículum de un modelo no se lee: se infiere. Y la inferencia, como acaban de demostrar los mejores laboratorios del mundo, puede ser hackeada.
