Superinteligencia abierta: el verdadero riesgo es la ilusión del control

Mark Zuckerberg acaba de plantar una bandera en el debate sobre el futuro de la inteligencia artificial. En un artículo de opinión en The Wall Street Journal, el CEO de Meta argumentó que la superinteligencia —ese hipotético nivel de capacidad cognitiva superior a la humana— no debe quedar bajo el control de unas pocas corporaciones o gobiernos, sino que debe distribuirse ampliamente. Suena razonable. Suena incluso progresista. Pero sostener esa postura sin abordar los mecanismos de gobernanza necesarios es, en el mejor de los casos, una ingenuidad peligrosa, y en el peor, una maniobra que beneficia directamente a su propio modelo de negocio.

La premisa de Zuckerberg tiene un núcleo válido: la concentración extrema de poder en torno a sistemas inteligentes podría generar desequilibrios geopolíticos, sesgos institucionalizados y una desigualdad tecnológica sin precedentes. Compartir el conocimiento y permitir que múltiples actores desarrollen y usen estas capacidades parece una salvaguarda natural contra el autoritarismo algorítmico. Sin embargo, la apertura sin controles es tan riesgosa como la concentración. Una superinteligencia abierta, sin barreras técnicas ni normativas, no solo estaría disponible para investigadores y startups innovadoras, sino también para actores malintencionados, estados sin escrúpulos y organizaciones que prioricen el daño sobre el beneficio colectivo.

El dilema de la gobernanza distribuida

La historia de la tecnología demuestra que la descentralización no es sinónimo de seguridad. El software de código abierto, por ejemplo, ha demostrado que la transparencia puede acelerar la detección de vulnerabilidades, pero también permite que los atacantes las exploten antes de que sean parcheadas. A escala de superinteligencia, el riesgo se multiplica exponencialmente. Un modelo con capacidad de autoreplicación o de manipulación a nivel sistémico, si se libera sin salvaguardas verificables, podría desencadenar consecuencias impredecibles —desde ciberataques automatizados hasta campañas de desinformación hiperpersonalizadas que erosionen la democracia.

Zuckerberg omite un punto crucial: la apertura que propone no es neutral. Meta construyó su imperio sobre datos abiertos y modelos de inteligencia artificial de acceso público como Llama, pero esa apertura siempre ha estado alineada con sus intereses comerciales. Publicar pesos de modelos y arquitecturas permite que Meta externalice parte de la innovación, atraiga talento y normalice un ecosistema donde sus productos son la infraestructura predeterminada. Defender la superinteligencia abierta desde esa posición equivale a pedir que todos jueguen bajo las reglas que él mismo diseñó.

La trampa de la autorregulación

Los llamados a una superinteligencia abierta suelen ir acompañados de la idea de que la comunidad científica y las empresas autorregularán el desarrollo. Pero la historia reciente muestra lo contrario: la carrera por lanzar modelos cada vez más grandes ha priorizado la velocidad sobre la seguridad. Sin acuerdos vinculantes entre naciones, sin organismos de supervisión con poder real y sin estándares técnicos que obliguen a auditorías independientes, la apertura se convierte en una coartada para la irresponsabilidad.

Para América Latina, este debate no es abstracto. La región, que históricamente ha llegado tarde a las revoluciones tecnológicas, podría verse atrapada entre dos fuegos: depender de modelos cerrados controlados por gigantes del norte o adoptar sistemas abiertos sin la capacidad técnica ni institucional para evaluar sus riesgos. La alternativa no es elegir entre concentración o caos, sino construir una gobernanza multinivel que combine apertura controlada con mecanismos de verificación democráticos.

El control como espejismo

Zuckerberg tiene razón en que el poder no debe concentrarse. Pero su propuesta omite el segundo acto de la ecuación: la apertura no es un fin en sí mismo, sino un medio que requiere reglas claras, transparencia real y rendición de cuentas. El verdadero riesgo no es que la superinteligencia quede en manos de unos pocos, sino que creamos que descentralizarla automáticamente la hace segura. La ilusión del control —la idea de que podemos soltar el conocimiento sin preparar las redes de contención— es quizás la amenaza más grave que enfrentamos.

Mientras los líderes tecnológicos discuten en titulares, los ingenieros siguen empujando los límites de lo posible. Y la región observa, como siempre, desde la tribuna. La pregunta que queda flotando no es si la superinteligencia debe ser abierta o cerrada, sino quién vigilará al que vigila cuando nadie tenga el monopolio del conocimiento.