El rápido avance de la inteligencia artificial ha generado una ola de herramientas que transforman desde diagnósticos médicos hasta procesos logísticos, pero también ha desatado dilemas que la tecnología por sí sola no puede resolver. Sesgos algorítmicos, violaciones a la privacidad y la opacidad en la toma de decisiones automatizadas son hoy problemas concretos para cualquier empresa que integre IA en sus operaciones. Frente a este escenario, surge una pregunta que incomoda tanto a las universidades como a las compañías: ¿quién está formando a los profesionales que construyen estos sistemas para que actúen con criterio ético?
Un estudio publicado en 2025 en el International Journal of STEM Education, liderado por los investigadores Maya Usher, Miri Barak y Sibel Erduran, recogió las percepciones de 95 estudiantes de posgrado en ciencias e ingeniería de Israel y el Reino Unido. Los resultados son reveladores: la gran mayoría considera que las universidades tienen una responsabilidad central e insoslayable en fomentar la conciencia ética sobre IA. Los estudiantes citaron obligaciones sociales, profesionales, educativas e incluso reputacionales de las instituciones académicas. Sin embargo, una minoría significativa defendió un modelo de responsabilidad compartida entre academia, industria y sociedad, mientras que un grupo más pequeño cuestionó directamente la factibilidad de enseñar ética en un entorno universitario, argumentando que los valores se aprenden en la práctica laboral o en el hogar.
Lo que el estudio deja en claro es que no hay un consenso sobre cómo debe impartirse esa formación. Los estudiantes propusieron varias estrategias, siendo la más mencionada la creación de cursos obligatorios y específicos de ética en IA. También sugirieron métodos de aprendizaje interactivo —como estudios de caso y simulaciones—, integrar la reflexión ética de forma transversal en todas las materias técnicas y, por último, fortalecer el liderazgo institucional para que la ética no quede relegada a una iniciativa aislada. Los autores del trabajo señalan que comprender la visión de los estudiantes no es un ejercicio anecdótico: ellos son quienes recibirán la educación y quienes, al graduarse, tomarán decisiones técnicas con impacto real en millones de personas.
El marco global que ya está en marcha
Mientras las universidades debaten cómo ajustar sus mallas curriculares, la UNESCO ya puso sobre la mesa un piso normativo. En noviembre de 2021, sus 193 Estados miembros adoptaron la primera Recomendación global sobre ética de la inteligencia artificial. El documento establece cuatro valores fundamentales: derechos humanos y dignidad, sociedades pacíficas e interconectadas, diversidad e inclusión, y sostenibilidad ambiental.
Sobre esa base, enumera diez principios operativos que van desde la proporcionalidad y la inocuidad hasta la transparencia, la explicabilidad y la supervisión humana. Para las empresas que operan en América Latina, este marco no es una referencia lejana: la Recomendación es aplicable a todos los países miembros de la UNESCO, incluidos los de la región, y ofrece un lenguaje común para dialogar con reguladores, clientes y socios internacionales.
La Recomendación no se queda en los principios. Identifica once ámbitos de acción política que incluyen gobernanza de datos, medio ambiente, género, educación, salud y bienestar social. En la práctica, esto significa que las compañías que desarrollan o implementan IA en sectores como fintech, salud, logística o retail deben empezar a auditar sus sistemas no solo por cumplimiento técnico, sino por alineación ética. La presión no viene solo de los gobiernos: los consumidores y los inversores institucionales exigen cada vez más transparencia en cómo se toman las decisiones automatizadas.
El riesgo de la 'ética de fachada'
Aquí conviene una advertencia. El filósofo Vincent C. Müller, en un artículo de próxima publicación en Routledge, advierte que la discusión sobre ética de la IA corre el peligro de convertirse en un ejercicio de relaciones públicas. Müller señala que en la industria y en los círculos políticos se habla mucho de 'IA confiable', 'responsable' o 'centrada en el ser humano', pero que en muchos casos esas etiquetas se usan para 'lavar' la imagen de las empresas mientras los negocios continúan igual.
Para que un problema sea genuinamente ético, sostiene Müller, no debe tener una respuesta obvia. Decidir si es permisible usar IA para vigilancia masiva en espacios públicos, o si un algoritmo de contratación puede priorizar eficiencia sobre equidad, son preguntas que no se resuelven con una checklist de principios.
Müller también destaca un punto que los ejecutivos latinoamericanos deberían considerar con seriedad: la tecnología avanza más rápido que la capacidad regulatoria y educativa para controlarla. Describe cómo la IA moderna se ha convertido en un negocio de capital masivo, al borde del hype, y que las grandes empresas tecnológicas basan su modelo de recolección de datos en la manipulación y el engaño. 'La recolección de datos de las cinco grandes compañías parece basarse en el engaño, la explotación de debilidades humanas, la procrastinación, la adicción y la manipulación', escribe. Para cualquier empresa que tercerice servicios de IA o use plataformas de las big tech, este es un riesgo operativo que no puede ignorar.
Lo que esto significa para América Latina
América Latina no es un espectador pasivo en este debate. Países como Brasil, México, Chile, Colombia y Argentina han iniciado procesos de regulación o han publicado estrategias nacionales de IA. Sin embargo, la mayoría enfrenta una brecha crítica: la formación ética de los profesionales STEM. Un ingeniero de software en São Paulo o un científico de datos en Bogotá rara vez recibe instrucción formal sobre sesgos algorítmicos, privacidad diferencial o rendición de cuentas. Y si la universidad no lo proporciona, la industria tampoco lo hace de forma sistemática.
Los propios estudiantes están pidiendo ese cambio, según el estudio de Usher y sus colegas. En un contexto donde la automatización avanza y los sistemas de IA toman decisiones que afectan el acceso al crédito, la contratación laboral o la atención médica, la falta de formación ética no es solo un problema académico: es un riesgo de negocio. Una empresa que implementa un sistema sesgado de reclutamiento puede enfrentar demandas, daño reputacional y fuga de talento. Un hospital que despliega un diagnóstico asistido por IA sin entender sus limitaciones éticas puede exponerse a litigios. En ese sentido, la ética de IA no es un lujo filosófico: es una capa de control operativo.
La Recomendación de la UNESCO ofrece una hoja de ruta concreta. Para las empresas latinoamericanas, el camino más pragmático es empezar por auditar los sistemas de IA que ya usan, asegurándose de que sean trazables, explicables y que cuenten con supervisión humana. Al mismo tiempo, deberían presionar a las universidades para que integren la ética como un componente obligatorio en las carreras de ingeniería y ciencias de la computación. Si la academia no forma a los futuros desarrolladores, la industria terminará pagando el costo de los errores evitables.
