La IA en el ejercicio legal: el error humano que ninguna tecnología puede subsanar

La multa de 5.000 dólares impuesta por la Corte Suprema de Nuevo México al abogado Stephen Aarons no es una anécdota curiosa; es un aviso de navegación para cualquier organización que integre inteligencia artificial en procesos críticos. Aarons presentó un escrito de apelación en un caso de asesinato que incluía testigos inexistentes, declaraciones policiales falsas y detalles fabricados sobre la vestimenta del agresor. Su defensa: creía que ChatGPT le daría un «resumen a prueba de balas». La jueza C. Shannon Bacon le respondió con una pregunta que debería resonar en cada consejo de administración: «¿Consejero, ve las noticias? ¿Escucha la radio? ¿Lee algo sobre lo que ocurre en el mundo?»

El episodio ilustra una falla sistémica, no individual. La American Bar Association, en su Opinión Formal 512 de julio de 2024, estableció que el deber de competencia (Regla 1.1) obliga a los abogados a comprender las herramientas que usan y a verificar independientemente sus salidas. Confiar acríticamente en un modelo generativo no es innovación; es negligencia profesional. El mismo dictamen abarca confidencialidad —subir datos privilegiados a plataformas públicas puede violar el deber de secreto—, franqueza ante el tribunal —las alucinaciones presentadas como hecho constituyen falta ética sancionable— y responsabilidad de supervisión —los socios deben establecer políticas claras y formar a todo el personal, incluido el no jurídico, en el uso ético de la IA.

Los marcos internacionales convergen. La UE, a través de su Reglamento de IA y las Directrices de Expertos de Alto Nivel, exige que los sistemas de alto riesgo —y la práctica legal califica— sean lícitos, éticos y robustos, con supervisión humana, transparencia y rendición de cuentas. La UNESCO, con su Iniciativa de Jueces en más de 160 países, forma a operadores judiciales para aplicar estándares de derechos humanos a la IA, incluyendo sesgo, discriminación y privacidad. En España, el Consejo General de la Abogacía ha advertido que la mediación algorítmica no exime al profesional de su responsabilidad deontológica.

Para los directivos latinoamericanos, la lectura es directa: la adopción de IA en áreas legales, de cumplimiento o contractuales no es un proyecto de TI, es un proyecto de gobernanza. Tres imperativos operativos surgen de este corpus normativo y jurisprudencial:

• Políticas de uso y trazabilidad. Definir qué herramientas están autorizadas, para qué tareas, con qué datos y bajo qué controles de verificación. Exigir auditoría de citas y hechos antes de cualquier presentación formal.
• Formación obligatoria y continua. Que el equipo —abogados, paralegales, analistas— entienda cómo funcionan los modelos de lenguaje, por qué alucinan y cómo validar salidas. La ignorancia de los riesgos, como alegó Aarons, no atenúa la sanción.
• Herramientas jurídicas especializadas, no chatbots genéricos. Las plataformas diseñadas para el sector incorporan controles de confidencialidad, grounding en fuentes verificadas, trazabilidad de decisiones y interfaces de supervisión. Usar ChatGPT o equivalentes para trabajo legal sensible traslada toda la carga de cumplimiento al profesional.

El costo de la multa es irrelevante frente al daño reputacional, la pérdida de confianza judicial y el riesgo de nulidad procesal. Pero el punto de inflexión no es punitivo: los despachos y departamentos legales que inviertan en gobernanza de IA —políticas, formación, herramientas nativas, supervisión humana en el circuito— convertirán la obligación ética en ventaja competitiva: más velocidad sin sacrificar rigor, más escala sin diluir responsabilidad.

La tecnología no exime de juzgar. El abogado sigue firmando el escrito; el directivo, respondiendo por la organización. La IA acelera el borrador, pero la verificación sigue siendo, y seguirá siendo, un acto humano irrenunciable.