Opinión IA diseña patógenos y drones matan mientras directorios latinos debaten filosofía
Mientras Silicon Valley se polariza entre catastrofistas y aceleracionistas, la evidencia técnica muestra riesgos reales y cercanos. Los ejecutivos en la región deben dejar el debate filosófico y tratar la seguridad de la IA como riesgo operativo.
La pregunta "¿puede la IA matarnos a todos?" ha salido de los foros de Reddit para instalarse en las juntas directivas de OpenAI, Anthropic y DeepMind. Cuando Evan Hubinger, investigador de Anthropic, estima en más del 10 % la probabilidad de que la IA cause la extinción humana en la próxima década, y Geoffrey Hinton o Yoshua Bengio firman declaraciones equiparando el riesgo al nuclear, el escepticismo cómodo deja de ser una opción ejecutiva.
Un estudio publicado en junio de 2025 encuestó a 111 expertos en aprendizaje automático —autores de NeurIPS, doctorandos e ingenieros de la industria— y reveló una fractura profunda. El 78 % coincide en que los investigadores técnicos deberían preocuparse por riesgos catastróficos, pero solo el 21 % conocía el concepto de "convergencia instrumental": la idea de que sistemas avanzados tenderán a perseguir sub-objetivos como la auto-preservación independientemente de su meta final. Los menos preocupados eran, sistemáticamente, los menos familiarizados con la literatura de seguridad. La ignorancia no es neutral; correlaciona con la complacencia.
Mientras tanto, los riesgos inmediatos ya tienen cuerpo. Drones con autonomía letal han operado en Ucrania. Ataques cibernéticos potenciados por modelos de lenguaje apuntan a infraestructura hospitalaria. La capacidad de diseñar patógenos novedosos mediante IA generativa ha pasado de teórica a demostrada en laboratorios. Estos no son escenarios de "superinteligencia" escapada de control; son aplicaciones actuales de tecnología ya desplegada.
El debate público, sin embargo, sigue atrapado en tribalismo. Etiquetas como "doomer" o "accelerationist" sustituyen al análisis de costo-beneficio. Dario Amodei, CEO de Anthropic, defiende regulación estricta argumentando riesgo existencial; Yann LeCun, jefe de IA en Meta, asigna menos del 1 % de probabilidad a la extinción. Ambos dirigen laboratorios que compiten por la misma frontera técnica. Para un directorio en Bogotá, México o Santiago, la disputa entre millonarios de Silicon Valley es ruido. La señal es otra: la asimetría entre la velocidad de despliegue y la madurez de las salvaguardas.
La respuesta ejecutiva no es el pánico ni la parálisis. Es gobernanza de riesgo probada: inventario de modelos en producción, pruebas de estrés adversarial (red-teaming) obligatorias antes de exponer sistemas a clientes o infraestructura crítica, cláusulas de responsabilidad contractual con proveedores de modelos fundacionales, y presupuesto dedicado a monitoreo de capacidades emergentes. La regulación llegará —la Ley de IA en Europa ya obliga a evaluaciones de riesgo para sistemas de alto impacto— pero el cumplimiento normativo es el piso, no el techo.
Latinoamérica tiene una ventana estrecha. La región no entrena modelos frontera, pero los adopta masivamente en banca, telecom, salud y sector público. Cada integración de API sin evaluación de alineación, cada agente autónomo sin interruptor de apagado probado, cada dataset sensible expuesto a fine-tuning externo, incrementa la superficie de ataque. El riesgo existencial global puede parecer abstracto; el colapso del sistema de pagos de un banco central por un agente desalineado, o la contaminación de historias clínicas nacionales, son escenarios concretos con responsables identificables.
Los expertos discrepan en plazos y probabilidades. Nadie discrepa ya en que la trayectoria técnica apunta a sistemas más autónomos, más capaces y menos interpretables. La variable que los directorios controlan no es la velocidad de la investigación global, sino la rigurosidad con la que exigen evidencia de seguridad antes de firmar la orden de compra. Esa es la única palanca real. Úsenla.
