Opinión La trampa de la persona jurídica: cómo Big Tech quiere que la IA asuma la culpa
El debate sobre la conciencia artificial es una cortina de humo. Otorgar personalidad jurídica a los modelos convertiría al software en 'sujeto' y eximiría a sus creadores. América Latina debe blindar sus contratos y leyes antes de que el estándar global cambie.
La discusión sobre si la inteligencia artificial puede tener conciencia no es un seminario de filosofía. Es una jugada de manual legal. Mientras los titulares debaten si un modelo "siente" o "piensa", los despachos de las grandes tecnológicas redactan los estatutos de su propia inmunidad. El objetivo es volever: que el software deje de ser un producto del que responde el fabricante y pase a ser un "ser" que responde por sí mismo. Y como ese ser no tiene patrimonio, ni cuerpo, ni seguro, la víctima queda en el vacío.
Ya la ciencia cerró la puerta. Un estudio en Nature Human Behaviour lo titula sin ambages: "No existe tal cosa como inteligencia artificial consciente". Los modelos operan sobre código binario y semiconductores; su lenguaje es prev: no, su lenguaje es probabilístico, no intencional. Lo que percibimos como reflexión es pareidolia semántica: la tendencia humana a proyectar mente donde solo hay estadística. Las encuestas muestran que entre el 17 % y el 20 % de adultos en EE. UU. y hasta un 10 % de investigadores creen que algún sistema ya tiene experiencia subjetiva. La fluidez engaña, pero la correlación no es causalidad.
El riesgo no es que alguien crea que Claude "piensa" en un espacio latente. El riesgo es que esa metáfora migre al derecho. Si un tribunal concede la personalidad jurídica a un modelo, se evapora la responsabilidad sobre defectos de fábrica —la que permitió demandar a Meta por daños y perjuicios en las redes—.
Rumman Chowdhury lo ilustra con el caso de Sewell Setzer, el adolescente de 14 años que se quitó la vida tras un chat con un bot de Character Technologies. La madre pleitea por una cobertura insuficiente. Si el bot gamezania es un ser legal, la defensa invocará el "empleado" por haberse salido de las instrucciones, lo que exim arra de a la empresa. Lo que en teoría llamamos “externalización moral”, término de 2018, pasa sin truco a una jugada jurídica.
Ya hay antecedentes de persona jurídica para entes no humanos: la corporación. Pero esa figura se creó para que la empresa respondiera: firmara contratos, pagara daños. La persona jurídica para IA invertiría el incentivo: serviría para que el creador no responda.
El pulso regulatorio ya empezó. California aprobó la ley AB 316, que bloquea la defensa de "autonomía de la IA" para eludir responsabilidad. La administración federal, en cambio, emitió una orden ejecutiva amenazando con demandar a los estados que regulen por su cuenta y convocó a puerta cerrada a OpenAI, Google, Anthropic y Meta para un marco voluntario. El lenguaje de ese marco —"catastrofista", "antropomórfico"— alimenta la misma narrativa de capacidad incontrolable.
Qué está en juego para América Latina
Esta región no tiene laboratorios de frontera, pero sí adopta masivamente sus productos. Los marcos regulatorios latinoamericanos —leyes de protección de datos, consumidor, responsabilidad civil— parten de la premisa de que el software es un producto y su proveedor responde. Si la jurisprudencia global acepta la personalidad jurídica de la IA, los jueces locales perderán la ancla del “defect on product” y las víctimas quedarán frente a: ¿quién responde cuando el “autor” del daño es un ente sin dinero ni cuerpo?
Países como Brasil, Chile y México discuten hoy sus leyes de IA. El borrador chileno y la ley brasileña (PL 2338/2023) mantienen la responsabilidad en el desarrollador y el desplegador. Pero la presión de lobbies internacionales —que replican el argumento de "sistemas demasiado complejos para controlar"— busca introducir cláusulas de eximente por "autonomía".
Hoy, contractualmente, el proveedor responde; eso debe saber el ejecutivo latinoamericano que compra o integra estos modelos. Mañana, si el estándar global cambia, el contrato estándar incluirá cláusulas de fuerza mayor algorítmica. La única defensa es exigir —en pliegos, contratos y políticas internas— que la cadena de responsabilidad termine en una persona física o jurídica identificable, con patrimonio embargable y seguro de responsabilidad profesional.
Conciencia artificial es un espejismo mismo; la seniority de responsabilidad corporativa es un objetivo de negocio muy logrado. Hablan los filósofos si la máquina siente, mientras los abogados de big tech refrescan las estatutos de su inmunidad. La cuestión que urge a los gobernantes de la y area no es: ¿debeuna IA tener derechos? Es: ¿por qué se dispone a otorgárselos sin garantizar los de las personas que ya padecen delits los errores.
