Ética & sociedad Nueva York veta aprendizaje automático en escuelas hasta 14 años
Nueva York prohíbe IA en escuelas hasta los 14 años mientras la academia mapea riesgos éticos en tres dimensiones. América Latina enfrenta el desafío de regular sin frenar la adopción.
La decisión de Nueva York de vetar el uso de inteligencia artificial en sus escuelas públicas hasta octavo grado —unos 600.000 estudiantes— marca un precedente regulatorio contundente que resuena más allá de Manhattan. El alcalde Zohran Mamdani argumentó que "los niños necesitan maestros y conexión humana para aprender y crecer", y la medida incluye límites de tiempo de pantalla, prohibición a docentes de usar IA para calificar y módulos obligatorios de alfabetización en IA dos veces al año fuente.
Mientras una de las mayores urbes del mundo opta por la moratoria, la comunidad científica sistematiza los riesgos. Una revisión publicada en Humanities and Social Sciences Communications clasificó las amenazas éticas de la IA en educación (IAED) en tres dimensiones: tecnología, educación y sociedad fuente. En el plano tecnológico destacan la invasión de privacidad, fugas de datos, sesgo algorítmico, opacidad de caja negra y errores de modelo. La dimensión educativa alerta sobre desarrollo homogeneizado del estudiantado, enseñanza estandarizada, crisis de la profesión docente, desviación de fines pedagógicos, alienación en la relación maestro-alumno, alteración emocional y fraude académico. La dimensión social advierte sobre el ensanchamiento de la brecha digital, ausencia de rendición de cuentas y conflictos de interés.
El marco europeo ofrece una brújula distinta: la Comisión Europea estableció cuatro principios rectores —agencia humana, equidad, humanidad y elección justificada— en sus directrices éticas para educadores fuente. UNESCO (2021) y el Departamento de Educación de EE. UU. (2023) coinciden en la centralidad de la privacidad, la seguridad de datos y la equidad en género, discapacidad, condición socioeconómica y geografía.
El punto ciego latinoamericano
En la educación superior latinoamericana, la revisión sistemática de Salas-Pilco y Yang (2022) sobre IA subraya el potencial para mejorar docencia, aprendizaje y administración, pero advierte de una discusión limitada sobre riesgos éticos fuente. La región importa tecnología entrenada con datos del Norte Global, lo que amplifica sesgos culturales y lingüísticos. La brecha digital —ya estructural— se profundiza cuando el acceso a herramientas de IA generativa depende de ancho de banda, dispositivos y alfabetización digital que no son universales.
Los sistemas educativos de México, Colombia, Brasil o Argentina carecen, en su mayoría, de marcos normativos específicos para IAED. Las leyes de protección de datos (como la LGPD brasileña o la Ley Federal mexicana) regulan el tratamiento de información personal, pero no abordan la toma de decisiones algorítmica en contextos pedagógicos: admisiones, alerta temprana de deserción, evaluación automatizada o tutoría sintética. La opacidad de caja negra impide a docentes y familias impugnar decisiones que afectan trayectorias escolares.
Costos de la inacción y de la sobreacción
Prohibir, como hizo Nueva York, resguarda la interacción humana y el desarrollo cognitivo sin mediación algorítmica en edades críticas. Pero también posterga la formación de ciudadanía digital crítica que la propia medida neoyorquina reconoce necesaria mediante sus módulos de alfabetización. En América Latina, donde la IA ya se cuela en aulas por vía de herramientas comerciales (plataformas de tareas, correctores de estilo, generadores de contenido), la ausencia de lineamientos deja a docentes y directivos en zona gris: ¿puede un profesor usar IA para planificar? ¿Para detectar plagio? ¿Para predecir riesgo de abandono?
Como estrategias transversales propone la revisión académica la gobernanza de datos con consentimiento informado y minimización; la auditoría algorítmica continua para detectar sesgos; la explicabilidad exigible en sistemas de alto impacto; la formación docente en ética digital; y mecanismos de rendición de cuentas claros entre proveedores, instituciones y autoridades fuente.
Una agenda pendiente
No se resuelve con veto ni con laissez-faire la tensión entre innovación y protección. Requiere marcos regulatorios que distingan niveles de riesgo —como propone el Reglamento de IA de la UE— y asignen obligaciones proporcionales. América Latina tiene la oportunidad de legislar con mirada propia: priorizar soberanía de datos educativos, exigir transparencia en modelos que operan sobre poblaciones diversas y financiar infraestructura para que la brecha digital no se convierta en brecha cognitiva.
Para ministros, rectores y directores de escuela, la pregunta que queda abierta no es si la IA entrará al aula —ya está—, sino bajo qué reglas de juego lo hará y quién rendirá cuentas cuando el algoritmo falle.
