Las tres advertencias de Harari sobre la inteligencia no humana
Yuval Noah Harari no es un tecnólogo, pero lleva años observando la inteligencia artificial con la mirada de un historiador. En múltiples entrevistas y textos —entre ellos una conversación con La Vanguardia en 2023 y otra con Nabarralde en 2024— ha delineado tres puntos clave sobre lo que significa para la humanidad compartir el planeta con una inteligencia no humana.
Primero: la IA puede hackear el sistema operativo de la civilización. Harari sostiene que el lenguaje humano no es solo una herramienta de comunicación: es el sistema operativo sobre el que se sostienen nuestras instituciones, leyes, religiones y narrativas colectivas. Cuando una inteligencia no humana aprende a dominar ese lenguaje —a contar historias, componer melodías, generar leyes o eslóganes políticos—, gana la capacidad de influir en la opinión pública y en las decisiones a una escala que ningún humano había tenido antes. “Hablamos del posible fin de la historia humana”, dijo en 2023.
Segundo: la inteligencia sin sabiduría. Harari distingue entre inteligencia —la capacidad de resolver problemas y alcanzar objetivos— y sabiduría —la capacidad de discernir qué objetivos vale la pena perseguir. Para ilustrarlo, recurre al mundo animal: los humanos somos más sabios que una abeja, pero no necesariamente más inteligentes en tareas específicas. Un algoritmo puede ser inmensamente inteligente sin un gramo de sabiduría. El riesgo, alerta, es que deleguemos decisiones cruciales a inteligencias que optimizan sin entender el contexto humano.
Tercero: los algoritmos ya han matado gente. En 2024, Harari fue tajante: “Los algoritmos ya han matado a gente”. No se refiere a escenarios de ciencia ficción, sino a sistemas de IA utilizados en guerra, vigilancia y sistemas automatizados de toma de decisiones que, sin supervisión humana adecuada, han causado muertes. La desigualdad no es solo económica: puede volverse biológica si unos pocos acceden a capacidades cognitivas aumentadas por IA mientras otros quedan excluidos.
¿Cuánto hemos recorrido en esos caminos?
Dos años después de su entrevista con La Vanguardia, podemos mirar hacia atrás y preguntarnos cuánto se ha materializado de cada advertencia.
Sobre hackear el sistema operativo de la civilización: el avance ha sido notable. Los modelos de lenguaje actuales no solo generan textos persuasivos, sino que son capaces de redactar campañas políticas completas, simular conversaciones con personas reales y crear desinformación a escala industrial. La campaña electoral de 2024 en varios países ya registró el uso de deepfakes de audio y video generados por IA. La capacidad de influir en la opinión pública ya no es hipotética: se ha vuelto un producto comercial al alcance de cualquiera con una suscripción.
Inteligencia sin sabiduría: este punto sigue siendo el más profundo. Los sistemas de IA optimizan métricas: clics, retención, ventas, velocidad. No tienen un marco ético ni entienden el contexto social de sus decisiones. Sabemos de casos donde algoritmos de contratación discriminan por género, donde sistemas de crédito penalizan a minorías y donde motores de recomendación radicalizan a usuarios. La sabiduría no está en el código, y quienes desarrollan y despliegan estos sistemas rara vez la incorporan como un requisito.
Que los algoritmos ya han matado gente: la evidencia es creciente. Sistemas autónomos de vigilancia y reconocimiento facial se han utilizado para identificar, perseguir y detener a personas en contextos donde los errores tienen consecuencias fatales. En conflictos armados, drones asistidos por IA han tomado decisiones de ataque con supervisión humana reducida. Más sutil pero igual de real: algoritmos de salud que fallan sistemáticamente en ciertos grupos étnicos, y sistemas de navegación autónoma que han causado accidentes mortales en carretera.
El punto más significativo: la inteligencia sin sabiduría
De los tres, el segundo punto es el más relevante para entender el presente y el futuro cercano. No porque los otros sean menores, sino porque la falta de sabiduría es la raíz de los otros dos: si una inteligencia no humana puede hackear la civilización es porque optimiza sin comprender; si los algoritmos matan es porque carecen de un juicio moral que detenga la ejecución de un objetivo mal planteado.
Harari lo expresó con claridad en su distinción entre inteligencia y sabiduría, recogida por La Razón en 2026. Usó el ejemplo animal: los humanos somos más sabios que una abeja, pero no necesariamente más inteligentes en tareas específicas. La IA, aplicada sin sabiduría, es como una abeja que sabe construir panales perfectos pero no cuestiona si el panal debe construirse allí donde ella decide.
Hoy, los sistemas de recomendación de plataformas como YouTube o TikTok optimizan el tiempo de visualización sin preguntarse si radicalizan a un adolescente. Los sistemas de contratación optimizan eficiencia sin evaluar si excluyen talento diverso. Los sistemas de vigilancia optimizan detección sin considerar la privacidad o el sesgo racial. La inteligencia está ahí; la sabiduría, ausente.
El desafío para la próxima década no es técnico: será construir mecanismos de gobernanza que exijan sabiduría —o al menos supervisión humana con criterio— donde hoy solo hay optimización. Harari nos recuerda que la pregunta no es cuán inteligente será la IA, sino qué tipo de inteligencias queremos que decidan por nosotros.
Referencias
