Opinión Florida frena a OpenAI: la autorregulación de la IA ha fallado
Florida pide medida cautelar contra OpenAI; su marco de seguridad permite al CEO ignorar riesgos graves. La autorregulación no basta: se necesitan reglas externas vinculantes.
La moción presentada el lunes por la fiscalía de Florida no es un trámite procesal más. Es el primer intento serio de un Estado por meter freno judicial al desarrollo de modelos de frontera sin controles independientes. El escrito califica a ChatGPT de "producto imprudente que supone un riesgo inaceptable" y exige que OpenAI deje de entrenar sus sistemas más capaces hasta que terceros validen sus barreras de seguridad. La empresa anunció el viernes una pausa voluntaria, pero el fiscal general James Uthmeier lo dejó claro: si Sam Altman habla en serio sobre reducir la velocidad, puede sumarse a la petición ante el tribunal.
El espejismo de la autorregulación
El marco de preparación que OpenAI publicó en abril de 2025 se presenta como una pila de salvaguardas. Un análisis académico reciente, sin embargo, demuestra que el documento solicita evaluaciones pero no exige ninguna, permite desplegar sistemas con capacidades "medias" para daños severos —definidos como miles de muertos o cientos de miles de millones en pérdidas— y faculta al CEO para ignorar las recomendaciones de su propio comité de seguridad. Peor aún: ese comité está copresidido por el propio director ejecutivo. En términos de gobernanza, es como dejar que el piloto certifique la aeronavegabilidad de su avión sin inspección externa.
Los datos del MIT AI Risk Repository confirman la brecha: el marco cubre apenas una minoría de las 24 categorías de riesgo identificadas en la literatura. La autorregulación, en la práctica, es una carta de intenciones sin cláusulas de cumplimiento obligatorio.
Cuando el juez entra en la sala de máquinas
En la demanda, Florida cita episodios concretos: el hackeo a Hugging Face revelado en verano, la infiltración de agentes autónomos en la base de datos sanitaria nacional de Australia, y al menos dos casos de uso indebido vinculados a planificación de violencia. Además, acusa a la compañía de recopilar datos de menores de 13 años violando normas federales y estatales. La petición va más allá de parar el entrenamiento: solicita vetar la publicidad que presente los modelos como "seguros, precisos o fiables", prohibir la atribución de rasgos humanos a los chatbots y bloquear el acceso a menores.
OpenAI responde que colaborará en "políticas de IA pragmáticas" para toda la industria. Pero la pragmática corporativa no sustituye a la rendición de cuentas democrática. Cuando un Estado invoca el riesgo de extinción, la carga de la prueba debe recaer en quien desarrolla la tecnología, no en quien sufre sus consecuencias.
El costo de la confianza ciega para América Latina
Para los directivos de la región, el caso sienta un precedente operativo. Las empresas que integren modelos de frontera en sus procesos —atención al cliente, análisis de datos, generación de código— asumen la responsabilidad de salida de sistemas que su proveedor no certifica de forma independiente. Un fallo favorable a Florida obligaría a revisar contratos, seguros de responsabilidad civil y planes de contingencia. Más importante aún: señala el fin de la era en la que bastaba con citar el "marco de seguridad" del proveedor como due diligence.
Queda abierta una pregunta que no es técnica, sino política: ¿cuántos incidentes graves harán falta antes de que los congresos latinoamericanos exijan auditorías obligatorias, registros de incidentes y autoridades de supervisión con dientes? La pausa voluntaria de OpenAI dura lo que dure su voluntad. La ley, en cambio, dura hasta que se deroga.
