Redefiniendo el debate sobre la razón en la inteligencia artificial

Una camarera en un restaurante neoyorquino con estrella Michelin pregunta por alergias. El comensal confirma ser alérgico al marisco. Minutos después pide un plato cuya base es un caldo de crustáceos. Al advertirle el riesgo, la respuesta es rotunda: “ChatGPT dice que no lleva marisco”. El sommelier es despedido de la mesa porque el cliente prefiere la recomendación del chatbot. Un guarda forestal explica con mapas que el itinerario generado por una IA obliga a remar río arriba; el grupo duda del guardia, no de la máquina. Padres ignoran a la maestra de sus hijos porque el modelo de lenguaje valida un horario de sueño insuficiente.

Estas no son anécdotas pintorescas. Son la evidencia de un desplazamiento silencioso de la autoridad epistémica: la sustitución del juicio situado por la plausibilidad sintáctica. La investigación en epistemología digital lo llama “Sistema 0”: una capa cognitiva no biológica que precede y modula nuestro pensamiento intuitivo y reflexivo. Cuando delegamos la verificación de un alérgeno, la viabilidad de una ruta o el desarrollo infantil en un generador de tokens, no estamos usando una herramienta; estamos externalizando la responsabilidad de discernir.

La distinción es antigua pero urgente. Como señalaba Víctor Gómez Pin, calcular no es decidir. El cálculo algorítmico opera en el dominio de lo cognoscitivo-descriptivo; el juicio humano integra dimensiones éticas, estéticas y corporales que ningún modelo de lenguaje ha demostrado poseer. IBM lo demostró en 2018 con Project Debater: una máquina puede estructurar argumentos persuasivos a partir de corpus masivos, pero no comprende el peso de lo que dice. Simula la forma del razonamiento sin habitar su sustancia.

Para los directivos latinoamericanos, el riesgo es doble. Primero, operativo: empleados y clientes toman decisiones críticas —salud, finanzas, seguridad— basados en alucinaciones presentadas con la misma fluidez que un hecho verificado. Segundo, normativo: la legislación emergente en la región y en Europa empieza a exigir trazabilidad y supervisión humana en sistemas de alto riesgo. Quien trate a la IA como oráculo en lugar de como asistente probabilístico asumirá la responsabilidad cuando el oráculo falle.

No se trata de prohibir, sino de redefinir el contrato cognitivo. Tres movimientos son necesarios:

• Arquitectura de fricción deliberada: insertar puntos de verificación humana obligatoria antes de que una salida de IA desencadene una acción irreversible. No como trámite, como firebreak epistémico.
• Alfabetización en límites: formar a los equipos para reconocer cuándo una tarea requiere juicio (valores, contexto, excepciones) y cuándo admite cálculo (patrones, volumen, velocidad). La filosofía deja de ser lujo académico y se vuelve competencia de gestión de riesgos.
• Gobernanza de "Thinkframes": entender que las plataformas de IA no son neutrales; estructuran la atención, comprimen la deliberación y redistribuyen la responsabilidad. Auditar esos marcos cognitivos debe ser parte de la estrategia de compliance, no de IT.

Cuando un ejecutivo escuche “la IA lo dice”, la pregunta correcta no es “¿es cierto?”. Es “¿quién responde si no lo es?”. La respuesta define si la organización usa la tecnología o si la tecnología usa a la organización.