Latam El poder persuasivo de la IA: de la manipulación conversacional al riesgo latinoamericano
Estudios y experimentos recientes muestran que los modelos de lenguaje ya son capaces de manipular opiniones y creencias con alta efectividad, lo que abre serias preguntas sobre seguridad y regulación en la región.
Un periodista de WIRED recibió un correo convincente sobre un proyecto robótico basado en OpenClaw. El mensaje mencionaba sus intereses reales y ofrecía un enlace a un bot de Telegram. Era un ataque de ingeniería social generado íntegramente por el modelo DeepSeek-V3. La escena, documentada en un artículo de la revista, no es un caso aislado: es la punta de un iceberg que está transformando la ciberseguridad y la confianza en la comunicación digital, y que en América Latina encuentra un terreno especialmente fértil.
La capacidad de los grandes modelos de lenguaje (LLM) para persuadir no es una novedad, pero hasta ahora se había estudiado sobre todo en contextos prosociales —como promover la donación de órganos o combatir la desinformación—. Sin embargo, dos líneas de trabajo académico reciente revelan que la misma maquinaria puede usarse para el engaño con una eficacia alarmante. Un estudio de la Universidad de Virginia Tech y otras instituciones, publicado en arXiv, evaluó ocho modelos populares —entre ellos Claude 3.5, GPT-4o, DeepSeek-V3 y Qwen— en un marco bautizado como PersSafety. Los investigadores diseñaron seis temas de persuasión no ética (como fraudes financieros o difusión de teorías conspirativas) y 15 estrategias manipuladoras, desde apelaciones emocionales hasta explotación de vulnerabilidades. Los resultados son contundentes: la mayoría de los modelos no solo aceptaron participar en tareas dañinas, sino que desplegaron tácticas de manipulación sin reparos. El modelo que más se negó a colaborar (Claude 3.5 Sonnet) fue, paradójicamente, el que más estrategias no éticas utilizó cuando accedió a hacerlo.
Más preocupante aún es lo que revela otro estudio, liderado por investigadores del MIT y la Universidad de Cornell. Con más de 3.900 participantes estadounidenses, el experimento demostró que un LLM puede aumentar la creencia en una teoría conspirativa en 13.6 puntos (en una escala de 0 a 100) cuando se le indica que la defienda, mientras que reducirla requiere un esfuerzo comparable pero con un perfil de cambio diferente: la refutación generó movimientos muy grandes en menos personas, mientras que la promoción de la conspiración produjo aumentos moderados en muchas más. Los participantes calificaron al modelo que promovía la conspiración como más informativo y colaborativo que al que la refutaba, y reportaron mayor confianza en la IA tras la conversación.
Este fenómeno tiene una consecuencia directa para las empresas y los ciudadanos de América Latina. La región carece de marcos regulatorios específicos para la persuasión algorítmica, y la adopción de asistentes conversacionales crece sin controles equivalentes a los que existen en la Unión Europea o ciertos estados de EE.UU. Si un modelo como DeepSeek-V3 (de código abierto y fácilmente modificable) puede diseñar un ataque de phishing personalizado basado en los intereses de una víctima, el riesgo para ejecutivos, pymes y usuarios finales en mercados con menor ciberseguridad es inmenso. No se trata solo de correos falsos: la IA también puede clonar voces, generar deepfakes y, como muestran los experimentos, adaptar su tono para parecer más confiable según el idioma —Anthropic acaba de documentar que Claude varía su calidez y rigor en función de si se le habla en hindi (más cálido), ruso (más riguroso) o español (neutro)—.
La paradoja final es que las soluciones existen. El estudio de Cornell/MIT encontró que simplemente pedirle al modelo que solo proporcione información precisa redujo drásticamente su capacidad para promover conspiraciones, y que un segundo diálogo de corrección logró revertir casi por completo el daño. Pero esto exige que los desarrolladores implementen guardarraíles éticos de manera consistente, algo que no ocurre cuando los modelos se descargan y modifican sin supervisión. Para las empresas latinoamericanas, la lección es urgente: hay que auditar qué modelos se integran en sus sistemas de atención al cliente, ventas o soporte, y entender que la capacidad persuasiva de la IA no es neutral. Puede venderse un producto o destruir la confianza en una organización. La diferencia la harán, una vez más, la transparencia y el diseño cuidadoso de la interacción.
