Ética & sociedad La IA avanza más rápido que la ciencia que la evalúa: el dilema de la integridad científica
Mientras la IA se acelera, la capacidad de medirla y gobernarla se rezaga. El Panel Científico de la ONU y la AAAI advierten sobre la concentración de poder y la erosión de la realidad compartida. ¿Qué significa para América Latina?
Cada semana, más de mil millones de personas usan inteligencia artificial conversacional. La generación de código funcional, el razonamiento de nivel experto en matemáticas y la producción de imágenes y videos realistas ya son moneda corriente. Pero el mismo fenómeno que permite estos avances también está erosionando los cimientos de la ciencia tal como la conocemos. El problema no es solo que la IA transforme la investigación: es que la está transformando a una velocidad que los sistemas de control, revisión por pares y verificación simplemente no pueden alcanzar.
El Panel Científico Internacional Independiente sobre Inteligencia Artificial, creado por la Asamblea General de la ONU en 2025, acaba de publicar su informe preliminar con una advertencia clara: las capacidades de la IA avanzan más rápido que nuestra capacidad para medirlas o gobernarlas. La concentración es alarmante —Estados Unidos concentra el 75% de la potencia computacional de las 500 supercomputadoras de IA más potentes del mundo, China un 15%, y casi todos los modelos de propósito general más importantes salen de esos dos países. La infraestructura, los datos de entrenamiento y el talento se acumulan en unas pocas manos. El Sur Global queda fuera del círculo donde se definen las reglas del juego.
Paralelamente, la Association for the Advancement of Artificial Intelligence (AAAI) ha organizado un panel presidencial sobre el futuro de la investigación en IA cuyos miembros —Joydeep Biswas, Thomas Dietterich, Fei Fang y Michael Kirkpatrick— discuten temas como los envíos duplicados reescritos con LLM, la proliferación de investigaciones generadas por IA de baja calidad y las respuestas comunitarias. El panel, moderado por la expresidenta de AAAI Francesca Rossi (IBM Fellow y líder global en ética de IA), revela que las mismas herramientas que aceleran el progreso científico también están siendo utilizadas para inundar conferencias y revistas con artículos sintéticos, difíciles de detectar y costosos de filtrar.
Un avance imparable, una gobernanza renqueante
El informe de la ONU documenta aplicaciones genuinamente transformadoras: AlphaFold ha predecido estructuras de más de 200 millones de proteínas, usadas por más de 3 millones de investigadores; la IA en radiología detecta cáncer de mama en etapas más tempranas; profesionales sanitarios en entornos con pocos recursos usan herramientas adaptadas a idiomas locales para mejorar la atención. Pero también señala que la IA agéntica —sistemas capaces de planificar y actuar de forma autónoma para alcanzar objetivos— supone un cambio radical en la gobernanza: según un estudio, la extensión de las tareas de programación que pueden realizar los sistemas más avanzados se duplica cada cuatro a siete meses. Si ese ritmo se mantiene, los agentes de IA pronto podrán realizar una parte significativa del trabajo intelectual humano sin supervisión.
Esa misma autonomía amenaza la integridad científica. El panel de AAAI ya está desarrollando herramientas de detección para el congreso AAAI 2026, diseñadas para identificar envíos gemelos potenciales y otros problemas de integridad impulsados por IA. Pero la escala del desafío es enorme: cuando cualquiera puede generar un manuscrito coherente en segundos, los mecanismos tradicionales de revisión por pares se vuelven insuficientes.
Lo que América Latina pierde al no estar en la mesa
Para los ejecutivos y tomadores de decisión latinoamericanos, el problema tiene una capa adicional de riesgo. La adopción de IA en el Sur Global va muy por detrás de la del Norte Global, y la brecha no se reduce solo al acceso, sino a la capacidad de influir en el desarrollo de la tecnología. Los insumos y los resultados de la IA presentan desigualdades geográficas y lingüísticas: los modelos funcionan mejor en inglés que en español o portugués, y los datos de entrenamiento reflejan los sesgos de las culturas dominantes. Cuando las universidades y centros de investigación de la región dependen de herramientas cerradas sin poder auditar ni controlar su calidad, el riesgo de que la producción científica local sea desplazada o infravalorada crece.
La integridad científica no es un lujo de países ricos: es un requisito para que cualquier sociedad pueda confiar en el conocimiento que genera. Si los filtros de calidad fallan globalmente, las consecuencias serán peores para las comunidades con menos recursos para verificar, replicar y contradecir resultados dudosos. América Latina necesita invertir en infraestructura computacional, en formación de talento local en ciberseguridad y verificación, y en la creación de estándares éticos que reflejen su diversidad cultural y lingüística.
¿Hacia dónde va la integridad científica?
El informe de la ONU y el panel de AAAI coinciden en un punto incómodo: la tecnología avanza más rápido que cualquier sistema de gobernanza. Los modelos se desplegarán antes de que sepamos medir sus impactos. Las instituciones académicas y los gobiernos latinoamericanos aún están a tiempo de no ser meros consumidores pasivos de una ciencia generada por otros. Pero para eso necesitan dejar de ver la integridad científica como un problema técnico y empezar a tratarlo como una prioridad estratégica. ¿Cuánto más puede la región permitirse confiar en evaluaciones que no puede auditar?
