La regulación de la inteligencia artificial en Estados Unidos avanza por un camino contradictorio: mientras el Congreso federal sigue paralizado por el estancamiento político, los estados, liderados por California, han decidido tomar la iniciativa y legislar por su cuenta. El resultado es un mosaico legal incipiente y desigual que, pese a su fragmentación, está definiendo la conversación nacional sobre cómo gobernar la tecnología más transformadora de esta década.
En medio aparece el «botón rojo», una propuesta de apagado de emergencia de sistemas de IA que ha pasado de la ciencia ficción al debate legislativo y que condensa una pregunta incómoda para la industria: quién, y bajo qué criterios, debe tener la capacidad de detener un sistema de IA si las cosas salen mal.
¿Por qué la regulación de la IA en EE. UU. se decide estado por estado?
La estructura federal de Estados Unidos delega a los estados competencias amplias en materia de protección al consumidor, seguridad pública y comercio. Cuando el Congreso no legisla —y en el tema de IA lleva años sin hacerlo de forma integral—, los estados llenan el vacío. California, la quinta economía del mundo y hogar de OpenAI, Anthropic, Google y Meta, se ha convertido en el laboratorio regulatorio de facto. Lo que ocurre en Sacramento suele anticipar lo que después se replica en otros estados y, en muchos casos, establece el estándar de facto para las empresas, que prefieren cumplir una regla única estricta antes que lidiar con un mapa de legislaciones contradictorias.
Esta dinámica no es nueva: California ya lideró la regulación de emisiones vehiculares y de privacidad digital con la CCPA, que luego influyó en debates federales. Con la IA ocurre algo similar. La diferencia es la velocidad: la tecnología avanza tan rápido que las leyes estatales, redactadas con meses de anticipación, corren el riesgo de quedar obsoletas antes de entrar en vigor.
California, laboratorio regulatorio: SB 1047 y otras leyes clave
El proyecto estrella es la SB 1047, la Ley de Innovación Segura y Protegida para la IA Fronteriza, que fue aprobada por la legislatura estatal de California con una intención clara: imponer requisitos de seguridad vinculantes a los desarrolladores de modelos de IA de gran escala antes de su despliegue. La ley, que el gobernador Gavin Newsom terminó vetando en septiembre de 2024, habría obligado a las empresas a implementar medidas como un «botón rojo» de apagado de emergencia, protocolos de prueba independientes y protección para denunciantes internos. También habría creado una nueva agencia estatal, la Frontier AI Division, para supervisar el cumplimiento.
Aunque fue un golpe duro para sus defensores, el veto de Newsom no cerró la puerta. De hecho, la SB 1047 dejó un legado importante: puso en el centro del debate público conceptos que antes solo se discutían en círculos académicos, como la necesidad de interrumpir el entrenamiento o la ejecución de un modelo si representa una amenaza. El cálculo político de Newsom fue que la ley, tal como estaba redactada, impondría una carga desproporcionada a los desarrolladores más pequeños y podría frenar la innovación en un estado que vive de ella.
Mientras tanto, California ha avanzado en otras leyes más acotadas que sí entraron en vigor, como la AB 2013, que exige transparencia en los datos de entrenamiento, y la AB 1836, que obliga a los desarrolladores a notificar a los titulares de derechos de imagen sobre el uso de réplicas digitales. Son pasos modestos, enfocados en audiencias concretas —artistas, actores y creadores—, pero empujan el péndulo en una dirección clara: la transparencia como primer principio regulatorio.
El marco federal: entre la orden ejecutiva y un Congreso dividido
Washington, mientras tanto, ha avanzado por otra vía. En octubre de 2023, la administración Biden publicó una orden ejecutiva amplia que estableció estándares de seguridad y pruebas obligatorias para los modelos más potentes, pero su alcance es limitado: una orden ejecutiva puede ser revertida por la siguiente administración y no tiene la permanencia de una ley federal. De hecho, su destino quedó sellado en enero de 2025, cuando la administración entrante de Donald Trump la derogó de forma expresa, cumpliendo una promesa de campaña de «revocar órdenes ejecutivas innecesarias que obstaculizan la innovación en IA».
Por su parte, el Congreso no ha logrado aprobar una ley federal integral de IA. Los intentos bipartidistas, como la Ley de Marco de IA de 2025 presentada por los senadores Cynthia Lummis y Gary Peters, existen y ofrecen borradores, pero enfrentan un problema estructural: la polarización política hace difícil construir consensos sobre tecnología que cambia más rápido que el ciclo legislativo. Hay, no obstante, un área de acuerdo emergente: el «botón rojo» para sistemas de IA de frontera. La idea, que propone que las empresas sean técnicamente capaces de pausar o desconectar un sistema de IA en caso de un incidente grave, ha aparecido con variantes en propuestas de ambos partidos.
El «botón rojo»: así se plantea el apagado de emergencia de la IA
Tiene una genealogía curiosa el «botón rojo»: nació en la filosofía de la seguridad de la inteligencia artificial, específicamente en debates académicos sobre control de máquinas superinteligentes, y de ahí saltó al derecho positivo. En la versión más concreta, la SB 1047 de California, se traducía en un requisito operativo: todo modelo entrenado con un costo superior a 100 millones de dólares o que supere ciertos umbrales de cómputo —del orden de 10²⁶ FLOPs, es decir, operaciones de punto flotante— debía poder ser desactivado a través de un interruptor de emergencia accesible al desarrollador. La lógica es simple: si un modelo actúa de forma imprevista y potencialmente dañina a gran escala, debe existir una forma de detenerlo de inmediato.
Desde dos frentes opuestos, el «botón rojo» ha sido criticado. La industria argumenta que es una simplificación peligrosa, porque los sistemas de IA modernos no son como centrales nucleares: no hay un único punto físico de apagado, y una desconexión abrupta podría dañar sistemas dependientes o ser eludida por un modelo adversarial.
Los críticos de la industria, por otro lado, dicen que la medida es insuficiente si se considera que la mayoría de los modelos de código abierto pueden ser copiados, modificados y redistribuidos sin control central. De hecho, algunas versiones del debate plantean que un «botón» solo tiene sentido si está respaldado por un monitoreo continuo, algo que ni la SB 1047 ni las propuestas federales llegan a detallar del todo.
El pulso entre la industria tecnológica y los reguladores
Detrás del debate técnico hay un pulso de poder. Las grandes empresas de IA, encabezadas por OpenAI y Anthropic, han mantenido una postura de «alineación constructiva»: reconocen la necesidad de alguna regulación, pero se resisten a que las reglas sean tan específicas que terminen limitando la capacidad de innovación o favoreciendo a competidores con menos escrúpulos. En su carta de veto, Newsom reflejó esa tensión al señalar que una regulación excesivamente rígida podría «crear un entorno donde la innovación se mude a otros estados o países».
Ese argumento no es solo retórica. Los datos muestran que la inversión en IA está altamente concentrada: si California legisla con estándares más estrictos que Texas o Florida, los desarrolladores podrían reubicar centros de cómputo o incluso sedes corporativas. Sin embargo, la historia de la regulación tecnológica sugiere lo contrario: cuando la Unión Europea aprobó el GDPR, las empresas globales no abandonaron el mercado europeo, sino que cumplieron la regla más estricta globalmente y la expandieron a otros mercados. La regulación, al menos en tecnología, tiende a ser un estándar de convergencia, no un factor de fuga.
Entonces, el pulso no es realmente entre «regulación sí» y «regulación no», sino entre dos visiones de cómo debe ser. La primera, impulsada por la industria, prefiere marcos de riesgo basados en el uso, con autorregulación y estándares voluntarios. La segunda, impulsada por organizaciones de seguridad y algunos legisladores, exige protecciones obligatorias y verificables, como el botón rojo.
Escenarios futuros: ¿una ley federal con botón rojo o un mosaico persistente?
Hay al menos tres escenarios posibles para los próximos años. El primero es un pacto federal mínimo: una ley que no busca resolver todos los problemas, sino crear una agencia nacional de supervisión y un estándar único de requisitos de seguridad, incluido algún mecanismo de apagado de emergencia. Sería la opción más limpia para las empresas, que prefieren una regla federal única a cincuenta estatales, y cuenta con apoyo de ambos partidos en términos generales. El problema es que el Congreso está tan dividido que incluso un acuerdo mínimo podría tardar años en materializarse.
La continuidad de un mosaico estatal es el segundo escenario. California seguiría legislando, otros estados como Nueva York, Colorado o Washington podrían seguir su ejemplo con sus propias variaciones, y las empresas tendrían que navegar un mar de requisitos inconsistentes. Este escenario tiene un costo de cumplimiento real: en lugar de una única barra de seguridad, habría cincuenta barras, algunas más altas que otras. También tiene un beneficio potencial: la diversidad normativa funcionaría como un experimento natural sobre qué políticas funcionan y cuáles no.
Un tercer escenario, el más disruptivo, es que un incidente de seguridad grave con un sistema de IA de frontera —un ciberataque masivo, una falla en la toma de decisiones autónoma o un error de escala— genere una ventana de oportunidad política que fuerce una ley federal rápida, con el botón rojo como pieza central. Es el patrón histórico estadounidense: la regulación financiera llegó después de la crisis de 1929 y la regulación bancaria moderna después de la crisis de 2008. La pregunta no es si ocurrirá un incidente, sino cuánto tarda en ocurrir. Cuando pase, el conjunto de ideas surgidas de los estados y el lenguaje del botón rojo estarán listos para convertirse en ley federal.
Lo que queda claro es que Estados Unidos sigue sin resolver la tensión de fondo: la IA es un mercado global, pero la regulación de la IA en EE. UU. se decide localmente. Esa paradoja es el paisaje en el que las empresas tecnológicas tendrán que operar durante los próximos años, y es un recordatorio de que la política de la tecnología, al igual que la tecnología misma, se construye por iteración y no por diseño.
