Opinión El guardián que selecciona el conocimiento
Fable 5 es el modelo biomédico más preciso, pero se niega a responder hasta el 99% de las preguntas. Para América Latina, donde el acceso a diagnóstico es crítico, esta paradoja revela una nueva dependencia tecnológica que urge discutir.
En una región donde los sistemas de salud pública operan al límite de sus capacidades y el acceso a especialistas sigue siendo un privilegio, cualquier promesa de inteligencia artificial aplicada al diagnóstico médico despierta esperanza. Pero el reciente estudio independiente sobre Claude Fable 5, el modelo estrella de Anthropic, enciende una alerta que los ejecutivos latinoamericanos no pueden ignorar: el asistente más preciso que existe es, al mismo tiempo, el más reticente a participar.
Los números son contundentes. Según el análisis publicado en arXiv por investigadores de la Universidad de Georgia, Fable 5 supera a todos sus predecesores —incluidos Opus 4.6, Opus 4.8 y el GPT-5 de OpenAI— en los benchmarks biomédicos más exigentes. Cuando responde, su precisión ajustada alcanza el 96,6% en MedQA, superando por un punto porcentual al siguiente competidor. Pero el dato que debería detener a cualquier CEO es otro: en RareBench, un conjunto de 1.122 preguntas sobre enfermedades raras, el modelo se negó a responder el 99,4% de las veces. Apenas 6 respuestas emitidas.
Aquí no estamos frente a un problema de capacidad técnica, sino de una decisión de diseño que Anthropic tomó en nombre de la seguridad. El equipo priorizó no equivocarse por sobre ser útil. Una postura comprensible desde la ética corporativa, pero que en el contexto latinoamericano adquiere un matiz diferente. ¿Quién decide qué es seguro preguntar cuando el silencio de un modelo puede postergar un diagnóstico o evitar una derivación temprana?
El estudio revela dos patrones de rechazo que merecen análisis. El primero es esperable: el modelo calla ante preguntas de ciencia básica o mecanismos de enfermedad donde sus respuestas serían menos seguras. El segundo es más inquietante: en RareBench, Fable 5 rechaza casi universalmente consultas sobre enfermedades metabólicas congénitas —un área donde la medicina latinoamericana tiene menos investigación y más necesidad de apoyo—, pero responde sin problemas a preguntas sobre enfermedades autoinmunes de inicio en la edad adulta, mucho más documentadas en los conjuntos de datos globales. No es un sesgo explícito, sino una asimetría silenciosa que replica las brechas de conocimiento del Norte Global.
Para un hospital público en Perú que quiera usar IA para triaje de pacientes, o una startup chilena de telemedicina que analice literatura médica, esta conducta es crítica. Un modelo que calla selectivamente da una falsa sensación de seguridad donde sí responde, y deja huecos peligrosos donde no. Y a diferencia de los sesgos de género o raza que ya sabemos identificar, esta opacidad es más sutil: la decisión de no decidir.
Paralelamente, la comunidad de usuarios ha descubierto que la forma de interactuar con Fable 5 es diametralmente opuesta a la de modelos anteriores. Los prompts extensos y detallados, que funcionaban con GPT-4 o Claude Opus, ahora generan respuestas erráticas. La guía oficial de Anthropic recomienda cuatro principios: instrucciones cortas, definir el objetivo antes que los pasos, marcar límites explícitos, y exigir evidencia en lugar de promesas. Esto exige un cambio de mentalidad en los equipos de tecnología de la región, que suelen entrenar sus agentes con metodologías pensadas para otras arquitecturas.
¿Qué significa esto para América Latina? Que la promesa de la IA en salud no es un camino lineal. No basta con tener el modelo más potente; hay que saber cuándo se calla, por qué lo hace y si ese silencio está alineado con las necesidades locales. Los reguladores —que recién empiezan a esbozar marcos para la IA en salud— deberían incorporar este tipo de hallazgos en sus discusiones. No se trata solo de alucinaciones, sino de una nueva forma de opacidad: ¿cómo se audita la decisión de no responder? ¿Quién es responsable cuando un sistema de IA calla ante un síntoma que podría ser crítico?
Por ahora, la lección para cualquier empresa latinoamericana que quiera usar Fable 5 en procesos sensibles es clara: no asumas que va a cooperar. Prueba primero en un entorno controlado, con datos locales, y prepárate para que, justo cuando más lo necesites, decida no hablar. Y si lo hace, probablemente tenga razón. Pero esa confianza no debe ser ciega: debe estar respaldada por protocolos que contemplen el silencio como una respuesta más, no como una ausencia.
La paradoja de Fable 5 nos obliga a preguntarnos si la seguridad excesiva no es, en realidad, una nueva forma de dependencia tecnológica. Mientras los modelos se entrenen con sesgos y umbrales de riesgo definidos en laboratorios del Norte Global, América Latina corre el riesgo de que la inteligencia artificial decida qué conocimiento merece ser accesible. Urge desarrollar modelos con umbrales de seguridad contextualizados, que entiendan que, en un sistema de salud con recursos limitados, un silencio preventivo puede ser más peligroso que una respuesta imperfecta.
