La transparencia que falta: el agujero negro de la seguridad en IA

La gobernanza de la inteligencia artificial avanza, pero lo hace en una penumbra que resulta inaceptable para cualquier proceso que pretenda ser democrático y legítimo. La reciente decisión del gobierno de Estados Unidos de declarar seguro un modelo frontier de OpenAI —el mismo que luego fue liberado— revela una grieta profunda en la arquitectura de control: nadie fuera del círculo cerrado de funcionarios y ejecutivos sabe exactamente qué se evaluó, bajo qué criterios y con qué evidencias. Como lo señala un reporte del medio especializado, "exactamente cómo fue ese diálogo entre el gobierno y Anthropic y OpenAI no está claro". Esa opacidad no es un detalle administrativo; es un problema de legitimidad que pone en riesgo la viabilidad misma de la gobernanza de la IA.

El derecho a saber sobre lo que nos afecta

Cuando un gobierno autoriza la liberación de un sistema de inteligencia artificial con capacidades frontier —aquellos que operan en la frontera de lo posible, con potencial de causar daños sistémicos—, no está tomando una decisión técnica aislada. Está definiendo el nivel de riesgo que la sociedad entera va a asumir. Los ciudadanos, las empresas, los reguladores de otros países y las organizaciones de la sociedad civil tienen derecho a conocer los fundamentos de esa decisión. Sin transparencia, no hay rendición de cuentas. Y sin rendición de cuentas, la confianza se erosiona hasta volverse insostenible.

En cualquier otro ámbito regulatorio —la aprobación de un medicamento, la autorización de una central nuclear o la certificación de un avión— el proceso es público, documentado y sujeto a revisión independiente. Las empresas presentan datos, los reguladores los evalúan, se publican informes y hay espacio para el escrutinio. En el caso de los modelos frontier de IA, ese proceso se ha convertido en un diálogo a puerta cerrada entre el gobierno y unas pocas compañías. Las consecuencias de un error —desde sesgos masivos hasta fallos de seguridad críticos— pueden ser catastróficas, y la sociedad no tiene manera de saber si los criterios usados fueron los adecuados.

La erosión de la confianza en la gobernanza técnica

La falta de transparencia no solo afecta la legitimidad de una decisión puntual; corroe el sistema entero de gobernanza. Si los ejecutivos tecnológicos y los funcionarios negocian en secreto los umbrales de seguridad, el público terminará por concluir que se trata de un pacto de conveniencia mutua donde la urgencia comercial y política pesa más que la protección real. Esto es especialmente delicado en un contexto donde las empresas de IA tienen incentivos económicos directos para liberar modelos lo antes posible, antes de que la competencia lo haga.

La confianza no se decreta; se construye con procesos verificables. Cuando el gobierno dice "hemos evaluado el riesgo y es aceptable", sin mostrar las evaluaciones, está pidiendo un acto de fe que ningún ejecutivo o funcionario exigiría en su propio ámbito de negocio. Para un director de riesgos de una gran corporación, sería impensable aceptar un análisis de seguridad sin ver los datos subyacentes. ¿Por qué habríamos de aceptarlo cuando se trata de sistemas que podrían afectar a millones de personas?

Modelos de escrutinio que ya existen

No se trata de inventar nada nuevo. La Administración de Alimentos y Medicamentos de Estados Unidos (FDA) publica los informes de revisión de nuevos fármacos, incluyendo los datos de ensayos clínicos y las objeciones de los evaluadores. La Agencia de Seguridad Aérea de la Unión Europea (EASA) documenta públicamente los procesos de certificación de aeronaves. La Comisión de Bolsa y Valores (SEC) exige que las empresas que cotizan en bolsa revelen información material relevante. Estos mecanismos no paralizan la innovación; la encauzan dentro de parámetros que la sociedad considera legítimos.

Aplicar este principio a la IA frontier no significa exponer secretos comerciales ni códigos fuente propietarios. Significa que los criterios de seguridad, las evaluaciones realizadas, los umbrales de riesgo considerados y las evidencias que sustentan la decisión deben ser de conocimiento público. Las empresas pueden mantener sus innovaciones protegidas, pero el proceso regulatorio no puede ser una caja negra.

Un llamado al escrutinio público

Lo que está en juego no es solo la seguridad de un modelo en particular. Es la credibilidad de todo el andamiaje de gobernanza que se está construyendo para la inteligencia artificial. Si el diálogo entre gobiernos y empresas sigue siendo opaco, cada nueva aprobación generará más dudas que certezas. Y en un entorno donde la desconfianza hacia las grandes tecnológicas ya es alta, ese camino lleva directamente al fracaso de cualquier intento de regulación efectiva.

La pregunta que los ejecutivos y legisladores deben hacerse no es si los modelos frontier son seguros —esa es una cuestión técnica que requiere evidencia—, sino si el proceso para determinarlo es lo suficientemente transparente como para que cualquier persona razonable pueda confiar en él. La respuesta, hoy, es no. Y mientras esa respuesta no cambie, el agujero negro de la opacidad seguirá devorando la confianza pública.