Yash Saxena presenta un método para auditar el uso de datos externos en modelos

Un investigador del Doctoral Consortium IJCAI-ECAI explica cómo auditar el uso de conocimiento externo en modelos de IA.

Yash Saxena presenta un método para auditar el uso de datos externos en modelos

Foto: ICSA

La pregunta de cómo un sistema de inteligencia artificial incorpora información que no estaba en su entrenamiento original es cada vez más relevante para las empresas. Yash Saxena, investigador seleccionado para el Doctoral Consortium de la International Joint Conference on Artificial Intelligence y la European Conference on Artificial Intelligence (IJCAI-ECAI 2026), trabaja precisamente en hacer visible ese proceso. Su investigación busca que sea más fácil entender y auditar cómo se utiliza el conocimiento externo dentro de los sistemas de IA, un tema crítico cuando las organizaciones dependen de modelos que se actualizan con datos propios o de terceros.

El trabajo de Saxena no se limita a una mejora técnica: apunta a la trazabilidad. En un entorno donde los modelos fundacionales se integran con fuentes de datos corporativas, bases documentales o APIs externas, saber qué información ingresó al sistema y cómo influyó en una respuesta es un requisito operativo. Para un equipo de datos en una empresa latinoamericana, esto significa poder responder ante una auditoría interna o un reclamo de cliente: de dónde salió ese dato, por qué se usó y qué tan confiable era.

Qué implica auditar el conocimiento externo

Patrocinado Advertisement

El problema de fondo es que muchos sistemas de IA no distinguen claramente entre lo que aprendieron en su entrenamiento y lo que reciben en tiempo de ejecución. Esta mezcla puede generar respuestas inconsistentes o decisiones basadas en información desactualizada, sin que el usuario final o el responsable técnico lo note. Saxena propone mecanismos para rastrear esa procedencia, de modo que cada pieza de conocimiento externo pueda ser identificada y evaluada dentro del flujo del modelo.

Para un CTO o un líder de ingeniería, esto se traduce en una capacidad concreta: documentar qué fuentes alimentan cada inferencia. No es solo una cuestión de cumplimiento, sino de calidad. Si una respuesta se basa en un documento interno desactualizado, el sistema debería poder señalarlo. Si se apoya en una fuente externa no verificada, el equipo debería poder detectarlo antes de que afecte una decisión de negocio.

El vínculo con el ecosistema cloud native

El vínculo con el mundo de Kubernetes y la nube nativa no es casual. Gran parte de la infraestructura que soporta estos sistemas de IA se ejecuta sobre plataformas como Kubernetes, donde la observabilidad y el monitoreo son prácticas establecidas. Extender esa cultura de trazabilidad a los datos que alimentan los modelos es el siguiente paso natural. Los equipos que ya dominan DevOps y GitOps tienen una ventaja: entienden la importancia de versionar, auditar y rastrear cambios en entornos productivos. Aplicar esa misma disciplina al conocimiento externo de un modelo de IA es una extensión lógica.

En América Latina, donde muchas organizaciones recién están consolidando sus capacidades de inteligencia artificial, esta investigación ofrece una hoja de ruta. No se trata de implementar sistemas complejos de inmediato, sino de empezar a registrar qué fuentes externas se integran a los modelos, cómo se actualizan y quién tiene control sobre ellas.

Del aula a la práctica empresarial

La participación de Saxena en el consorcio doctoral de IJCAI-ECAI 2026 refleja un esfuerzo académico que busca conectar la investigación con problemas reales. En su entrevista, menciona que la iniciativa surgió de conversaciones entre varios embajadores de la Cloud Native Computing Foundation (CNCF) sobre la necesidad de que el conocimiento llegue a más personas, incluso superando barreras idiomáticas. Aunque su foco está en la investigación, hay una señal clara para el ecosistema: la adopción de IA no puede avanzar sin herramientas que permitan entender qué hace el sistema y por qué.

Un ejecutivo en la región puede sacar una conclusión operativa directa: antes de escalar un proyecto de IA, hay que definir cómo se va a auditar el conocimiento externo. Esto implica establecer políticas sobre qué fuentes se permiten, cómo se documentan y cómo se revisan periódicamente. No es un lujo técnico; es una condición para operar con confianza en un entorno donde la información es el activo principal.

La oportunidad está en adoptar estas prácticas con anticipación. Las empresas que logren rastrear el origen de cada dato que alimenta sus modelos tendrán una ventaja competitiva: podrán responder a clientes, reguladores y socios con evidencia, no con suposiciones. Y en un mercado donde la confianza en la IA todavía se está construyendo, esa capacidad puede marcar la diferencia.

Fuentes

  1. Entrevista con Yash Saxena: ¿cómo se utiliza el conocimiento externo en los sistemas de IA?
  2. KCD Lima, Perú - LinkedIn
  3. Sistemas intensivos sustentables - SEDICI
Henry González

Escrito por

Henry González

Experto en procesos y calidad

Ingeniero industrial con una obsesión por los estándares. Certificado en ISO 9001, ISO 27001 e ISO 42001 — la norma que define cómo las organizaciones deben gestionar la inteligencia artificial de forma responsable. Para Henry, la IA no es solo tecnología sino un sistema que debe auditarse, gobernarse y medirse.