Opinión Sin formación ética en inteligencia artificial, empresas asumen costos ocultos
Los estudiantes de posgrado exigen cursos obligatorios de ética en inteligencia artificial. Mientras la UNESCO ya fijó un marco global, las universidades latinoamericanas aún no forman a los futuros desarrolladores. ¿Están las empresas preparadas para el costo de esa omisión?
La aceleración de la inteligencia artificial ha sido tan vertiginosa que las universidades corren detrás de un tren que ya partió. Mientras los laboratorios lanzan modelos cada vez más potentes, una pregunta incómoda queda flotando: ¿quién está formando a los ingenieros y científicos de datos para que construyan sistemas que no reproduzcan discriminación, violen la privacidad o tomen decisiones opacas? La respuesta, al menos en América Latina, sigue siendo inquietantemente vaga.
La demanda que nadie quiere escuchar
Un estudio publicado en 2025 en el International Journal of STEM Education recogió la voz de 95 estudiantes de posgrado en ciencias e ingeniería de Israel y el Reino Unido. La conclusión fue contundente: la gran mayoría considera que las universidades tienen una responsabilidad central en fomentar la conciencia ética sobre IA. Los estudiantes no piden un curso optativo de relleno; exigen que la ética sea obligatoria, transversal y que se enseñe con métodos activos como estudios de caso y simulaciones. Una minoría, eso sí, defendió un modelo de corresponsabilidad entre academia, industria y sociedad, mientras que otro grupo más pequeño dudó de que la universidad sea el lugar para inculcar valores. El debate está abierto, pero el mensaje de fondo es claro: quienes construirán los sistemas del mañana quieren herramientas para no repetir los errores del presente.
Un piso normativo que ya existe
Mientras las aulas discuten, la UNESCO ya puso un marco sobre la mesa. En noviembre de 2021, sus 193 Estados miembros adoptaron la primera Recomendación global sobre ética de la inteligencia artificial, con cuatro valores fundamentales —derechos humanos, sociedades pacíficas, diversidad y sostenibilidad— y diez principios operativos que van desde la proporcionalidad hasta la transparencia y la supervisión humana. Para cualquier empresa que opere en América Latina, este documento no es una referencia lejana: es aplicable a todos los países de la región y ofrece un lenguaje común para dialogar con reguladores, clientes y socios internacionales.
La Recomendación identifica once ámbitos de acción política, incluyendo gobernanza de datos, género, educación y salud. En la práctica, esto significa que una fintech que usa IA para otorgar créditos o un hospital que despliega diagnóstico automatizado deben auditar sus sistemas no solo por cumplimiento técnico, sino por alineación ética. La presión no viene solo de los gobiernos: los consumidores y los inversores institucionales exigen cada vez más transparencia.
El riesgo de la ética decorativa
Aquí conviene una advertencia que ningún ejecutivo debería ignorar. El filósofo Vincent C. Müller, en un artículo próximo a publicarse, advierte que la discusión sobre ética de la IA corre el peligro de convertirse en un ejercicio de relaciones públicas. Hablar de IA "confiable" o "centrada en el ser humano" puede ser una cortina de humo mientras los negocios continúan operando con las mismas lógicas extractivas. Müller describe cómo la recolección de datos de las grandes tecnológicas se basa en "el engaño, la explotación de debilidades humanas, la procrastinación, la adicción y la manipulación". Para cualquier empresa latinoamericana que tercerice servicios de IA o use plataformas de las big tech, esta no es una crítica filosófica: es un riesgo operativo concreto.
Un algoritmo de contratación sesgado puede derivar en demandas, daño reputacional y fuga de talento.
Lo que América Latina necesita
América Latina no es un espectador pasivo. Brasil, México, Chile, Colombia y Argentina han iniciado procesos de regulación o publicado estrategias nacionales de IA. Pero la mayoría enfrenta una brecha crítica: la formación ética de los profesionales STEM. Un ingeniero de software en São Paulo o un científico de datos en Bogotá rara vez recibe instrucción formal sobre sesgos algorítmicos, privacidad diferencial o rendición de cuentas. Y si la universidad no lo proporciona, la industria tampoco lo hace de forma sistemática.
Los propios estudiantes están pidiendo ese cambio. En un contexto donde la automatización avanza y los sistemas de IA toman decisiones que afectan el acceso al crédito, la contratación laboral o la atención médica, la falta de formación ética no es solo un problema académico: es un riesgo de negocio. Las empresas que implementan sistemas sesgados pueden enfrentar demandas, daño reputacional y fuga de talento. Un hospital que despliega un diagnóstico asistido por IA sin entender sus limitaciones éticas puede exponerse a litigios. La ética de IA, entonces, no es un lujo filosófico: es una capa de control operativo que las compañías deben incorporar en su cadena de valor.
Recomendación de la UNESCO ofrece una hoja de ruta concreta. Para las empresas latinoamericanas, el camino más pragmático empieza por auditar los sistemas de IA que ya usan, asegurándose de que sean trazables, explicables y que cuenten con supervisión humana. Al mismo tiempo, deberían presionar a las universidades para que integren la ética como un componente obligatorio en las carreras de ingeniería y ciencias de la computación. Porque si la academia no forma a los futuros desarrolladores, la industria terminará pagando el costo de los errores evitables.
Ya no es si la ética debe enseñarse, sino cuándo las universidades y las empresas dejarán de tratarla como un accesorio y comenzarán a verla como lo que es: una capa indispensable de control operativo que define la sostenibilidad del negocio en la era de la inteligencia artificial.
