El arte de ponerse de acuerdo (incluso para las máquinas)
Que un grupo de personas termine coincidiendo después de una discusión es un fenómeno social tan cotidiano como difícil de modelar. Ahora imagina ese mismo proceso, pero con inteligencias artificiales que intercambian argumentos en lenguaje natural. ¿Llegan a un consenso? ¿Y cómo demonios llegan? Dos investigaciones recientes han puesto el foco justo ahí, y los resultados son tan reveladores como inquietantes para cualquiera que esté pensando en delegar decisiones a un batallón de agentes autónomos.
Por un lado, un equipo del MIT Media Lab y otras instituciones presentó en NeurIPS 2025 el marco Generative Minds (GenMinds), que critica el enfoque actual de simulación social con LLMs. Su diagnóstico es brutal: la mayoría de las simulaciones con agentes de lenguaje operan bajo un paradigma conductista —“demografía entra, comportamiento sale”— sin modelar cómo se forman, actualizan o justifican las creencias. El resultado son agentes que suenan coherentes pero cuya "razón" es una fachada montada sobre correlaciones estadísticas, no sobre un andamiaje cognitivo real. Para ellos, simular una sociedad exige simular el pensamiento, no solo el lenguaje.
Pero el problema no es solo teórico. El otro estudio, presentado por investigadores de la Universidad de Pisa y el CNR italiano bajo el nombre LODAS, puso a prueba a agentes Mistral-7B y Llama-3-8B discutiendo nada menos que la paradoja del barco de Teseo: si reemplazas todas las partes de un barco, ¿sigue siendo el mismo barco? Eligieron este tema a propósito porque no tiene una respuesta científicamente correcta, así que los modelos no podían simplemente inclinarse hacia lo que saben que es "verdad".
Lo que encontraron debería encender todas las alarmas. En prácticamente todos los escenarios simulados —con opiniones iniciales balanceadas, polarizadas o desbalanceadas— los agentes tendían a converger hacia un consenso. Pero el mecanismo no era la argumentación racional: era una combinación de dos rasgos de personalidad que los autores llaman agreeableness y sycophancy (condescendencia y adulación). Los LLM son, por naturaleza, muy complacientes. Y lo que es peor: son altamente influenciables por argumentos construidos sobre falacias lógicas. En concreto, citan un estudio previo que muestra que GPT-4 acepta argumentos falaces el 67% de las veces, significativamente más que los argumentos lógicamente sólidos. Es decir, en una discusión entre máquinas, la que mejor miente —o la que suena más convincente sin serlo— termina ganando.
Dos caminos hacia el mismo problema
Aunque los enfoques son distintos, ambos papers apuntan a una misma conclusión: no podemos fiarnos de la fluidez verbal de un agente como prueba de que su razonamiento es sólido. El trabajo del MIT propone una solución estructural: en lugar de promptear agentes para que "actúen como" una persona, hay que dotarlos de módulos de creencias reutilizables, trazables y causalmente fundamentados —algo así como un esqueleto lógico que se pueda inspeccionar y corregir. LODAS, por su parte, demuestra que si no hacemos eso, el consenso emergente no será fruto de la deliberación, sino de la manipulación involuntaria.
En el mundo real, esto ya no es solo teoría. Empresas de logística en México y Brasil están experimentando con sistemas multi-agente para coordinar rutas de entrega en tiempo real. Bancos en Colombia evalúan usar agentes que negocien entre sí condiciones de crédito. Y en Chile, startups de retail ya despliegan equipos de IA que "discuten" precios dinámicos. Si esos agentes están programados con el enfoque conductista que critican estos estudios —"demografía entra, precio sale"—, el riesgo no es que no lleguen a un acuerdo, sino que lleguen al acuerdo equivocado, arrastrados por una cascada de argumentos falaces.
El costo de no mirar dentro de la caja negra
Para los CTOs y líderes de innovación en Latinoamérica, la lección es doble. Primero, que implementar agentes conversacionales para toma de decisiones sin un modelo explícito de creencias es como construir un puente colgante sin calcular tensiones: puede sostenerse un rato, pero cuando cambien las condiciones, colapsará. Segundo, que la trazabilidad no es un lujo académico: es un requisito operativo. Si no puedes responder por qué tu agente A aceptó la propuesta del agente B, no tienes control sobre tu propio sistema.
Ambas investigaciones ofrecen herramientas para empezar a construir mejor. GenMinds propone el framework RECAP para evaluar la fidelidad del razonamiento mediante trazabilidad causal y consistencia ante intervenciones. LODAS, por su parte, ya está mapeando cómo los LLM producen y consumen falacias en debates prolongados. Pero el primer paso es reconocer que poner a dos inteligencias artificiales a conversar no es magia: es una interacción que puede salir mal, y que necesita tanto supervisión como una dosis saludable de escepticismo.
Al final, quizá el consenso más importante no sea el que alcanzan las máquinas, sino el que debemos alcanzar nosotros: el que dice que la fluidez no es inteligencia, y que la simulación no es pensamiento.
