Detectores de escritura artificial fallan más de lo que aciertan

En las aulas de Estados Unidos y Europa, un nuevo actor se ha instalado en la rutina escolar: los detectores de escritura generada por inteligencia artificial. Estos sistemas prometen identificar si un texto fue escrito por un humano o por un modelo como GPT, pero la evidencia muestra que su precisión es baja, sus sesgos son altos y, en lugar de resolver el problema del uso indebido de la IA, están creando un clima de sospecha generalizada.

Un estudio reciente publicado en Acta Neurochirurgica evaluó la exactitud de estos detectores y encontró que, si bien pueden reconocer textos generados por IA con cierta confiabilidad, también tienen una tasa significativa de falsos positivos, acusando erróneamente a estudiantes que escribieron sus trabajos de forma original. El problema no es solo técnico: es ético. Cuando una máquina decide que un texto es “sospechoso” sin posibilidad de apelación clara, el derecho al debido proceso y la presunción de inocencia se desdibujan.

Esta tendencia se inscribe en un fenómeno más amplio que la periodista del The Verge, Elizabeth Lopatto, describe como una “nueva era de desconfianza”. La proliferación de detectores de IA no solo busca atrapar infractores, sino que cambia la dinámica de las relaciones humanas: profesores desconfían de sus alumnos, empleadores de sus empleados y plataformas de sus usuarios. La tecnología, diseñada para restaurar la confianza, termina erosionándola.

El costo de la sospecha en las aulas latinoamericanas

Para América Latina, donde la brecha digital ya es un obstáculo para la integración tecnológica, la adopción de detectores de IA puede agravar las desigualdades. Un informe del Center for Democracy & Technology (CDT) reveló que en EE. UU. los padres de mayores ingresos tienen más probabilidades de que sus hijos usen IA en la escuela, mientras que las familias rurales y de bajos ingresos reportan menor acceso. En la región, donde el acceso a dispositivos y conectividad es aún más desigual, implementar sistemas de detección sin una infraestructura de capacitación y transparencia puede convertir la sospecha en una nueva forma de exclusión.

Además, el informe del CDT documenta que el uso de IA en las escuelas está correlacionado con mayores riesgos: filtraciones de datos, acoso sexual habilitado por tecnología, interacciones problemáticas entre estudiantes y chatbots, y sistemas que no funcionan como se espera. Los detectores de IA, al ser una capa más de vigilancia, se suman a ese ecosistema de riesgos sin ofrecer garantías claras de equidad o precisión.

La paradoja de la detección

La ironía es que mientras más escuelas y empresas adoptan detectores, más incentivos tienen los estudiantes y trabajadores para aprender a eludirlos. Foros en línea ofrecen “humanizadores” de texto que modifican ligeramente la redacción para engañar a los algoritmos. Se genera así un círculo vicioso: la desconfianza impulsa la tecnología de control, que a su vez fomenta tácticas de evasión, lo que profundiza la desconfianza.

Para los ejecutivos latinoamericanos que están implementando soluciones de IA en sus organizaciones, la lección es doble. Primero, ningún detector es infalible: basar decisiones académicas o laborales en estas herramientas puede llevar a errores con consecuencias graves. Segundo, la confianza no se restaura con vigilancia, sino con políticas claras, capacitación ética y marcos regulatorios que pongan los derechos de las personas en el centro.

Hacia una cultura de uso responsable de la IA

En lugar de gastar recursos en detectores imperfectos, las instituciones educativas y las empresas de la región podrían invertir en programas de alfabetización en IA. El informe del CDT muestra que cuando los padres reciben orientación de la escuela sobre cómo usar la IA, es más probable que supervisen adecuadamente a sus hijos y que apoyen un uso productivo de la tecnología. Fomentar una cultura de uso crítico y transparente puede marcar la diferencia.

La tecnología no es neutral: los detectores de IA no solo detectan, sino que definen qué es “auténtico” o “fraudulento”. Y esa definición, cuando está en manos de algoritmos opacos y sesgados, puede terminar perjudicando a quienes menos recursos tienen para defenderse. La pregunta que queda para los líderes latinoamericanos no es si usar detectores, sino si están dispuestos a construir sistemas educativos y laborales donde la confianza no sea un lujo ni una excusa para la vigilancia masiva.