Negocios La gobernanza participativa de la IA: de la promesa ética al diseño colaborativo
Casos de empresas y gobiernos muestran que la adopción de IA escala cuando los usuarios finales y grupos vulnerables participan en el diseño. Sin embargo, en Latinoamérica el camino hacia la co-creación recién comienza.
El entusiasmo por la inteligencia artificial suele concentrarse en los algoritmos, los modelos fundacionales y los especialistas técnicos, pero dos aproximaciones que emergen desde la práctica empresarial y la investigación académica coinciden en una misma conclusión: la adopción sostenible de IA no se logra con equipos centralizados de expertos, sino integrando a quienes usarán la tecnología en su desarrollo y gobierno.
La fuerza de los usuarios clave
El caso de CHRIST Juweliere und Uhrmacher, una cadena alemana de joyería con más de 150 años de historia, ilustra cómo una organización tradicional puede construir una estrategia de IA desde abajo. En lugar de delegar toda la iniciativa en un departamento técnico, la compañía apostó por crear una red de "key users" de cada área funcional, personas que conocen los procesos, los cuellos de botella y las necesidades reales de su equipo. Estos perfiles, formados en conceptos básicos de inteligencia artificial, comenzaron a identificar casos de uso con valor concreto para el día a día, desde optimización de inventarios hasta personalización de la atención al cliente.
Lo que comenzó como un proyecto impulsado por dos empleados entusiastas terminó convertido en una iniciativa transversal que, según relatan los responsables del área de IA de la firma, requiere tanto conocimiento técnico como experticia funcional. La combinación de ambos fue el habilitador de soluciones con impacto real, y al mismo tiempo reveló una necesidad adicional: contar con datos bien estructurados y documentados para que los modelos funcionen. La experiencia de CHRIST muestra que la gobernanza de la IA no puede ser un ejercicio de imposición vertical; necesita capilaridad y apropiación desde los equipos operativos.
El desafío de incluir a grupos vulnerables
En el otro extremo del espectro, el enfoque académico conocido como Participatory AI profundiza en cómo incorporar perspectivas sociales en el diseño tecnológico, especialmente en servicios públicos donde las decisiones automatizadas afectan a poblaciones vulnerables. El marco AI FORA (Artificial Intelligence for Assessment), desarrollado por investigadores de la Universidad Johannes Gutenberg de Maguncia y otras instituciones, propone espacios seguros de co-diseño donde ciudadanos, funcionarios y desarrolladores trabajan juntos para definir reglas, criterios de equidad y mecanismos de transparencia.
El punto de partida es una observación crítica: la mayoría de los marcos de gobernanza de IA —desde las directrices éticas de la Comisión Europea hasta el NIST AI Risk Management Framework en Estados Unidos— se quedan en declaraciones de principios y no logran traducirse en procesos concretos de co-creación tecnológica. Incluso el modelo de gobernanza co-constructivo, que postula la participación pública como eje, rara vez se implementa en la práctica. AI FORA intenta cerrar esa brecha con metodologías que aseguren que las voces de quienes reciben los servicios —incluyendo a grupos históricamente marginados— sean escuchadas en la definición de los sistemas que los evaluarán.
La lección para América Latina
Para empresas y gobiernos de la región, la convergencia de estos dos enfoques entrega una señal clara. En Latinoamérica, donde la adopción de IA suele estar impulsada por proveedores externos o iniciativas aisladas de innovación, el riesgo de que los sistemas reproduzcan sesgos estructurales es alto. La falta de participación de los usuarios finales —ya sean trabajadores de una fábrica, ciudadanos que solicitan un subsidio o pequeños comerciantes que integran herramientas de análisis predictivo— puede traducirse en soluciones desconectadas de la realidad local y, peor aún, en decisiones automatizadas que profundicen desigualdades.
Además, el caso alemán demuestra que la participación no requiere grandes presupuestos de consultoría. Un programa estructurado de formación de key users, combinado con espacios de co-diseño que incluyan a las comunidades afectadas, puede ser suficiente para construir confianza y aumentar la tasa de proyectos de IA que llegan a producción. En un contexto donde muchas iniciativas latinoamericanas mueren en el piloto, esta estrategia ofrece una ruta pragmática hacia la escalabilidad.
El desafío regulatorio también está presente. La entrada en vigencia del EU AI Act en Europa, con su modelo basado en riesgo, obligará a cualquier empresa latinoamericana que opere en mercados europeos o que utilice tecnologías desarrolladas allí a demostrar que sus sistemas son trazables, explicables y auditables. La participación de los usuarios en el diseño no solo mejora la calidad de los modelos, sino que se convierte en un requisito de cumplimiento. Ignorarlo puede traducirse en barreras de acceso a mercados, multas o daños reputacionales difíciles de reparar.
La pregunta que cada organización debería hacerse no es si su equipo técnico es capaz de construir un modelo de IA, sino si los procesos que está usando para diseñarlo y gobernarlo incluyen a quienes vivirán con sus consecuencias. La respuesta definirá si la inteligencia artificial termina siendo una herramienta de concentración de poder o un habilitador de desarrollo inclusivo.
