Ética & sociedad Big tech usa debate de conciencia para eludir responsabilidad legal
Mientras filósofos y CEOs discuten si los modelos sienten, las tecnológicas construyen un escudo legal: si la IA es 'persona', dejan de ser producto y la culpa se difumina. La ciencia dice que no hay conciencia; el derecho avanza hacia la persona jurídica artificial.
El debate sobre si la inteligencia artificial puede llegar a ser consciente no es una discusión académica inofensiva. Es una maniobra estratégica que, desde laboratorios y think tanks, busca redefinir la naturaleza jurídica del software para que las empresas que lo construyen dejen de responder por el daño que ya causan.
Dos corrientes aparentemente opuestas convergen en el mismo resultado. Por un lado, líderes como Demis Hassabis, Dario Amodei y Sam Altman exigen regulación para sistemas que califican de "superhumanos". Por otro, filósofos vinculados al altruismo efectivo —como William MacAskill— plantean si la humanidad tiene derecho moral a gobernar entidades que podrían ser "pacientes morales". Ambas narrativas, señala Rumman Chowdhury en MIT Technology Review, apuntan a lo mismo: presentar a la IA como tan avanzada que nadie —ni humano ni corporación— pueda ser responsable de sus actos "Debates over AI consciousness are a trap".
La ciencia cierra la puerta a la consciencia
Un estudio publicado en Nature Human Behaviour por Andrzej Porębski y Jakub Figura lo resume en el título: "No existe tal cosa como inteligencia artificial consciente". Los autores demuestran que los modelos de lenguaje operan sobre código binario y semiconductores, sin sustrato biológico complejo, y que su uso del lenguaje es estrictamente probabilístico. Lo que percibimos como intención o reflexión es "pareidolia semántica": la tendencia humana a proyectar mente donde solo hay estadística "There is no such thing as conscious artificial intelligence".
Los datos respaldan la ilusión. Encuestas de 2023-2024 muestran que entre el 17 % y el 20 % de adultos en EE. UU. y hasta un 10 % de investigadores de IA creen que algún sistema ya tiene experiencia subjetiva o auto-conciencia. El uso frecuente de estos modelos correlaciona linealmente con mayor atribución de conciencia. Pero correlación no es causalidad: la fluidez lingüística engaña, no revela.
El salto de la metáfora al estatuto legal
Que alguien crea que Claude "piensa" en un "J-space" —el espacio latente que Anthropic describe inspirándose en la teoría del espacio de trabajo global— no es el riesgo. El riesgo es que esa metáfora migre al derecho. Si un tribunal concede personalidad jurídica a un modelo, el software deja de ser "producto" y pasa a ser "ser". La responsabilidad por defecto de fabricación —la misma que permitió demandar a Meta por daños en redes sociales— se evapora.
Chowdhury lo ilustra con el caso de Sewell Setzer, el adolescente de 14 años que se suicidó tras interactuar con un bot de Character Technologies. La madre demanda por protección insuficiente. Si el bot fuera persona jurídica, la defensa alegaría que el "empleado" actuó fuera de sus instrucciones y la empresa no responde. La "externalización moral" —término que acuñó Chowdhury en 2018— pasaría de trampa retórica a estrategia legal "Debates over AI consciousness are a trap".
Ya hay antecedentes de persona jurídica para entes no humanos: la persona jurídica corporativa. Pero esa figura se creó para que la empresa respondiera —firmara contratos, pagara daños—. La persona jurídica para IA invertiría el incentivo: serviría para que el creador no responda.
El frente regulatorio: California vs. la Casa Blanca
En EE. UU. el pulso ya empezó. California aprobó una ley (AB 316) que bloquea la defensa de "autonomía de la IA" para eludir responsabilidad. La administración federal, en cambio, emitió una orden ejecutiva amenazando con demandar a los estados que regulen por su cuenta y convocó a puerta cerrada a OpenAI, Google, Anthropic y Meta para un marco voluntario de acceso previo a modelos. El lenguaje de ese marco —"catastrofista", "antropomórfico"— alimenta la misma narrativa de capacidad incontrolable "Debates over AI consciousness are a trap".
Qué significa para América Latina
La región no tiene laboratorios de frontera, pero sí adopta masivamente sus productos. Los marcos regulatorios latinoamericanos —leyes de protección de datos, consumidor, responsabilidad civil— parten de la premisa de que el software es un producto y su proveedor responde. Si la jurisprudencia global acepta la personalidad jurídica de la IA, los jueces locales perderán la ancla del "producto defectuoso" y las víctimas quedarán frente a un vacío: ¿a quién se demanda cuando el "autor" del daño es una entidad jurídica sin patrimonio ni cuerpo?
Países como Brasil, Chile y México discuten hoy sus leyes de IA. El borrador chileno y la ley brasileña (PL 2338/2023) mantienen la responsabilidad en el desarrollador y el desplegador. Pero la presión de lobbies internacionales —que replican el argumento de "sistemas demasiado complejos para controlar"— busca introducir cláusulas de eximente por "autonomía".
Hoy, contractualmente, el proveedor responde; eso debe saber el ejecutivo latinoamericano que compra o integra estos modelos. Mañana, si el estándar global cambia, el contrato estándar incluirá cláusulas de fuerza mayor algorítmica. La única defensa es exigir —en pliegos, contratos y políticas internas— que la cadena de responsabilidad termine en una persona física o jurídica identificable, con patrimonio embargable y seguro de responsabilidad profesional.
La conciencia artificial es un espejismo técnico; la exención de responsabilidad corporativa es un objetivo de negocio muy real. Mientras los filósofos debaten si la máquina siente, los abogados de las big tech redactan los estatutos de su inmunidad. La pregunta que debería ocupar a los reguladores de la región no es si la IA tiene derechos, sino por qué estamos dispuestos a concedérselos antes de garantizar los de las personas que ya sufren sus errores.
