Ética & sociedad El abogado que citó testigos fantasma: la IA en los tribunales exige verificación
La Corte Suprema de Nuevo México sancionó a un abogado por presentar testimonios ficticios generados con ChatGPT. Un estudio empírico revela que las alucinaciones legales son sistemáticas y amenazan la confianza en la justicia.
Un abogado penalista con más de cuatro décadas de ejercicio profesional presentó un escrito ante la Corte Suprema de Nuevo México con testimonios falsos atribuidos a testigos que nunca existieron. La corte no lo tomó como un descuido: lo declaró en desacato directo, lo remitió al tribunal disciplinario y subrayó que Stephen Aarons no verificó ninguna de las afirmaciones generadas por ChatGPT antes de firmarlas. Tampoco informó a su cliente, un condenado por asesinato cuya apelación estaba en juego, de que el texto contenía múltiples representaciones falsas de hechos y de derecho.
El caso encendió las alertas en el mundo jurídico porque no es una rareza. Un análisis académico publicado en la revista EDRAAK revisó el comportamiento de los grandes modelos de lenguaje en contextos legales reales y encontró que, ante preguntas directas y verificables sobre casos federales seleccionados al azar, los sistemas producen respuestas inventadas con una frecuencia preocupante. El estudio evaluó cuatro modelos populares —ChatGPT 4, ChatGPT 3.5, PaLM 2 y Llama 2— en los tres niveles del poder judicial de Estados Unidos: las cortes de distrito, las cortes de apelaciones y la Corte Suprema.
La conclusión es incómoda: las denominadas alucinaciones no son fallos marginales, sino un rasgo estructural de la tecnología aplicada a un dominio donde la precisión no admite matices.
El riesgo de confundir fluidez con verdad
La Corte Suprema de Nuevo México fue explícita. Aarons admitió que no verificó las afirmaciones fácticas ni las autoridades legales que ChatGPT le entregó, y la corte sostuvo que demostró una falta de remordimiento y de preocupación por su cliente. El escrito incluía supuestos testimonios policiales y de testigos fabricados de principio a fin. En lugar de ser una herramienta de apoyo, el modelo se convirtió en un generador de ficción con apariencia de documento oficial.
El problema no es exclusivo de abogados descuidados. Un caso resonante en Manhattan —otro letrado sancionado por citar jurisprudencia inexistente generada por ChatGPT— revela que el fenómeno se extiende. Y los avisos de la propia OpenAI sobre el riesgo de invenciones no disuaden a profesionales que confían en la fluidez del texto. El estudio académico va más allá: sugiere que los modelos no ofrecen niveles de certeza calibrados después del hecho, es decir, el usuario no tiene forma de saber cuándo el sistema está fabulando.
La "monocultura legal" como amenaza silenciosa
El estudio plantea un concepto inquietante: el riesgo de una monocultura legal. Si un número creciente de abogados, jueces y funcionarios judiciales dependen de los mismos modelos de lenguaje entrenados con los mismos datos, los errores sistémicos se reproducen en masa. Una alucinación individual puede detectarse; cientos de profesionales alimentándose de las mismas alucinaciones crearían jurisprudencia paralela, argumentos inventados y precedentes fantasma que contaminarían el sistema desde adentro.
Este escenario tiene implicaciones directas para América Latina, donde la justicia ya enfrenta una profunda desconfianza ciudadana y una brecha enorme entre la demanda y la capacidad de respuesta. La adopción de herramientas de IA generativa en estudios jurídicos y en oficinas gubernamentales de la región crece sin protocolos claros. Los colegios de abogados aún discuten cómo regular estas herramientas, mientras los profesionales las usan para redactar demandas, contratos y dictámenes. En este contexto, el caso de Nuevo México y el estudio empírico son una advertencia oportuna: la responsabilidad profesional no se delega en un modelo, y la reputación de quienes firman documentos sigue siendo el último filtro de calidad.
Queda flotando una pregunta: no es si los abogados latinoamericanos usarán IA, sino si las cortes y los colegios profesionales de la región sabrán construir reglas de juego antes de que un escrito con testigos inventados llegue a un expediente real. La tecnología no es el problema; la ausencia de controles sí lo es. El caso de Stephen Aarons, con sus cuatro décadas de experiencia, demuestra que la confianza en la máquina puede derribar incluso a los profesionales más veteranos.
