La IA agéntica ya no es un experimento de laboratorio. Sistemas que borran bases de datos, asesoran pacientes y redactan documentos legales operan hoy en infraestructura crítica. El problema central ya no es si están listos para decidir, sino quién responde cuando se equivocan. El aparato tradicional de atribución de culpas —identificar un actor, establecer un deber, vincular la infracción al daño— se diseñó para agentes humanos, decisiones secuenciales y causalidades legibles.
Los sistemas agénticos rompen las tres premisas a la vez: sus acciones emergen de la interacción entre datos de entrenamiento, objetivos de optimización, elecciones arquitectónicas y entradas en tiempo real de formas que ningún individuo controla por completo. Cuando algo falla, el error es de todos y de nadie.
La trampa semántica de la autonomía
En el centro de la dificultad hay un problema de lenguaje que ha hecho demasiado trabajo moral y legal. "Autónomo" sirve a dos amos incompatibles. Los informáticos lo usan para independencia funcional: un sistema que ejecuta operaciones sin un prompt en cada paso. Los filósofos morales, siguiendo a Kant, lo entienden como la capacidad de un agente racional de darse su propia ley moral: actuar según principios que ha endosado reflexivamente. Ningún sistema actual posee esa segunda capacidad. Confundir ambos sentidos permite deslizar la responsabilidad fuera del alcance humano bajo la ficción de que la máquina "decide".
Dos velocidades regulatorias: Europa avanza, Latinoamérica observa
Por su parte, la Unión Europea ha movido ficha. La Directiva (UE) 2024/2853 sobre responsabilidad por productos defectuosos extiende el régimen de responsabilidad objetiva a los sistemas de IA considerados productos: si hay defecto de seguridad, el fabricante responde sin necesidad de probar culpa. Paralelamente, el AI Act impone deberes de información, seguridad y gobernanza según el nivel de riesgo, sin regular directamente la responsabilidad civil.
La doctrina jurídica española, desde la Universidad de Granada, propone una arquitectura escalonada: daños por defecto del producto bajo responsabilidad objetiva; daños por despliegue, configuración o uso profesional bajo una "culpa normativa" fundada en el incumplimiento de deberes legales y técnicos de diligencia ex ante. El modelo de "atribución funcional del riesgo" busca identificar a los operadores en posiciones estructuralmente relevantes —fabricantes, programadores, usuarios profesionales, propietarios— que están en mejor situación para prevenir o asegurar las consecuencias.
En América Latina no existe un equivalente a la Directiva 2024/2853 ni al AI Act. Los códigos civiles —basados en el artículo 1902 tipo: "el que por acción u omisión causa daño a otro, interviniendo culpa o negligencia, está obligado a reparar"— presuponen un agente humano con voluntad y discernimiento. La opacidad algorítmica (black box) y la causalidad distribuida vuelven casi imposible probar la culpa humana concreta cuando un sistema de machine learning o deep learning genera un daño por aprendizaje emergente o interacción no prevista.
El riesgo de convertirse en zona de prueba sin paracaídas
Para un ejecutivo latinoamericano que evalúa desplegar un agente autónomo en atención al cliente, triaje médico o scoring crediticio, la ausencia de marco local crea una asimetría peligrosa. El proveedor del modelo —frecuentemente extraterritorial— puede ampararse en cláusulas de limitación de responsabilidad contractual. El usuario profesional local queda expuesto a reclamos de consumidores, pacientes o reguladores sectoriales (superintendencias de salud, defensa del consumidor, bancos centrales) sin una regla clara de reparto de la carga. Los seguros de responsabilidad civil profesional y de cyber apenas comienzan a tasar este riesgo; la prima y la cobertura son inciertas.
Esa propuesta europea de distinguir entre defecto de producto y fallo de despliegue ofrece una brújula práctica aunque no sea ley local. Si el daño proviene de un sesgo estructural en el modelo base o de una vulnerabilidad de seguridad no parcheada, la responsabilidad recae en la cadena de suministro (fabricante, proveedor de fine-tuning, plataforma MaaS). Si el daño nace de una configuración inadecuada, un prompt malicioso no filtrado, la ausencia de guardrails o la falta de supervisión humana en decisiones de alto impacto, la responsabilidad se ancla en quien despliega y opera. Esa línea divisoria —fase de configuración versus fase de ejecución— es operativamente más útil que el debate abstracto sobre la personalidad jurídica electrónica.
Seguridad como evidencia de diligencia
Frameworks como SAIL V2 (Secure AI Lifecycle), con 91 riesgos mapeados en siete fases —Política, Descubrimiento, Postura, Red Teaming, Controles en Runtime, Sandbox, Gobernanza— y alineados con ISO/IEC 42001, EU AI Act, OWASP LLM/Agentic, DASF y AIUC-1, permiten a la organización demostrar ex ante que cumplió deberes técnicos de diligencia. En un litigio futuro, la existencia de una evaluación de brechas (gap analysis), un roadmap de madurez y checklists de cumplimiento documentados funcionan como prueba de que el operador no actuó con ligereza. No elimina el riesgo, pero reduce la exposición a la "culpa normativa".
La pregunta que queda abierta
Mientras los congresos latinoamericanos legislan a velocidad distinta a la de los releases de modelos fundacionales, las empresas de la región que integran agentes autónomos en procesos críticos operan en una zona gris jurídica. La pregunta no es teórica: cuando —no si— un agente tome una decisión que cause daño patrimonial, físico o discriminatorio en Bogotá, São Paulo, Ciudad de México o Buenos Aires, ¿qué juez, qué norma y qué patrimonio responderán? La respuesta determinará si la adopción de IA agéntica en la región es una apuesta calculada o una ruleta rusa institucional.
