Por qué los usuarios deben codiseñar los sistemas de IA

La inteligencia artificial está dejando de ser una promesa de laboratorio para instalarse en el escritorio de miles de ejecutivos latinoamericanos. Cada semana aparece un modelo más rápido, un benchmark más alto o un ajuste de API que duplica el rendimiento de la noche a la mañana. Sin embargo, mientras la industria optimiza los parámetros de inferencia, el ecosistema regional descuida una variable igual de crítica que ningún parámetro resuelve: la participación de quienes usarán esos sistemas.

El espejismo del rendimiento técnico

OpenAI publicó hace unos días un post sobre GPT-5.6 y su salto de 7,8% a 38,3% en el benchmark ARC-AGI-3 al activar retained reasoning y compaction. Pero más allá del logro técnico, lo que revela esa historia es que el proceso de diseño sigue siendo un asunto de expertos para expertos. Y eso, en un contexto democrático de adopción, es un problema.

Cuando se despliega un agente de IA en logística, en atención al cliente o en servicios financieros, los usuarios no son solo los desarrolladores. Son los operadores de almacén que interactúan con el sistema, los agentes de call center que reciben las sugerencias generadas, los clientes que negocian plazos. Ninguno de ellos participó en la definición de lo que el sistema recuerda, cómo comprime la información o qué criterios de justicia aplica. El resultado, como en el benchmark sin ajustes, es un rendimiento subóptimo disfrazado de tecnología de frontera.

Co-creación como requisito de negocio

Incluir a los usuarios finales y a grupos vulnerables en el diseño de sistemas de inteligencia artificial no es un gesto de buena voluntad corporativa. Es una decisión estratégica que impacta directamente en la aceptación social, en la tasa de error y en la confianza del mercado. Una herramienta diseñada sin entender el contexto en que se opera genera más fricción que valor. Y en una región como América Latina, donde la brecha digital, la informalidad y la desconfianza institucional son realidades estructurales, ignorar la voz de las comunidades equivale a construir soluciones frágiles.

La co-creación implica abrir canales estructurados para que los usuarios expresen cómo el sistema afecta su trabajo y su vida. También significa involucrar a quienes hoy están ausentes de las mesas de diseño: personas mayores, comunidades indígenas, pequeños comerciantes, trabajadores informales. No se trata de una consulta simbólica, sino de integrar sus necesidades, limitaciones y expectativas en las decisiones de arquitectura, desde el modelo de inferencia hasta la interfaz de interacción. El resultado son sistemas más precisos porque entienden mejor el dominio real, más éticos porque reflejan valores diversos y más transparentes porque sus reglas se negocian, no se imponen.

El riesgo de la gobernanza delegada

El caso de OPINE-World, el agente desarrollado en la Universidad de Toronto que separa exploración de síntesis de modelos, muestra una arquitectura que, por diseño, se presta a la inspección y a la reutilización. Un modelo de mundo programático es más fácil de auditar, de modificar y de explicar que un modelo de caja negra. Pero incluso esa transparencia técnica no resuelve por sí sola la gobernanza. Quién decide qué objeto explorar, qué transformación aplicar y bajo qué criterio evaluar el éxito sigue siendo una pregunta política, no algorítmica.

En América Latina, delegar esa pregunta a los proveedores tecnológicos —OpenAI, Google, Meta— sin un contrapeso ciudadano equivale a exportar decisiones éticas a corporaciones que operan bajo otras realidades culturales y regulatorias. Las empresas que adopten mecanismos de co-creación no solo se adelantarán a futuras regulaciones, sino que construirán sistemas más robustos, con menos sesgos de diseño y mayor lealtad de sus usuarios.

Un llamado a abrir la conversación

No se trata de frenar la innovación. Se trata de ampliar quiénes tienen derecho a definirla. La próxima vez que un equipo evalúe un nuevo modelo de lenguaje o diseñe un agente autónomo, debería preguntarse no solo qué parámetros activar en la API, sino a qué personas invitar a la mesa antes de que el sistema entre en producción. Quienes hoy operan en los márgenes del diseño tecnológico serán mañana los primeros en desconfiar de sus resultados o en sabotear su adopción. La inteligencia artificial que no escucha a sus usuarios está condenada a ser rechazada por ellos.