Cuando el ruido es más peligroso que el modelo: el verdadero desafío de medir la IA

Hay un problema que atraviesa a toda la industria de la inteligencia artificial y que ningún modelo, por más grande que sea, puede resolver por sí solo: cómo distinguir el verdadero avance tecnológico del ruido estadístico, la exageración de marketing o, peor aún, el riesgo real que aún no sabemos medir. Dos textos publicados casi en simultáneo —uno de OpenAI y otro de un technology transfer specialist de la Universidad de Rochester— abordan esta misma pregunta desde ángulos distintos pero complementarios. Y ambos llegan a una conclusión incómoda: estamos rodeados de ruido, y las consecuencias de no filtrarlo van desde perder millones en una startup sobrevalorada hasta desplegar un sistema que cause daño.

OpenAI actualizó su Preparedness Framework (versión 2, abril 2025) con un objetivo claro: dejar de confiar en que "los modelos se limitan a sí mismos" y empezar a diseñar salvaguardas para sistemas que ya se acercan a umbrales críticos de capacidad. La compañía define tres categorías monitoreadas —capacidades biológicas y químicas, ciberseguridad y auto-mejora de IA— y establece dos niveles de alerta: High, cuando el modelo puede incrementar significativamente vectores de riesgo existentes, y Critical, cuando aparece una amenaza cualitativamente nueva. El documento es honesto sobre algo que muchas veces se pasa por alto en la conversación pública: "hasta ahora, nuestras evaluaciones han mostrado que incluso nuestros modelos más avanzados, sin salvaguardas, aún no son lo suficientemente capaces como para plantear riesgos graves en áreas como bio o ciberseguridad". Pero el aviso viene inmediatamente después: "estamos en la antesala de sistemas que pueden hacer ciencia nueva y que son cada vez más agentivos".

El marco de OpenAI es un intento de institucionalizar la medición de señal y ruido en el plano de la seguridad. Pero el concepto mismo de "señal" tiene una larga tradición en la estadística y el machine learning que rara vez se aplica a la evaluación de los propios modelos de lenguaje. En un artículo de 2019 del ingeniero de LinkedIn Brandon Rohrer, se explica con claridad que "cuando construimos un modelo, asumimos que nuestros datos tienen dos partes: señal y ruido. La señal es el patrón real, el proceso repetible que esperamos capturar. El ruido es todo lo demás". La analogía vale para el momento actual: evaluar la capacidad real de un modelo de IA requiere, primero, saber si la mejora que muestra en un benchmark es genuina o es simplemente un caso de overfitting disfrazado de progreso.

Aquí entra el segundo texto, escrito por Saurin Parikh (University of Rochester) y publicado en diciembre de 2025. Parikh propone "Cinco Señales" para que las oficinas de transferencia tecnológica (TTOs) —y por extensión cualquier organización que evalúe tecnología— distingan el valor real del ruido: mejora contra una línea base creíble, ventaja de datos defendible, diferenciación técnica que sobreviva el escrutinio de patentes, alineación con regulaciones de seguridad, y licenciabilidad bajo los términos del modelo o datos upstream. La taxonomía que ofrece es útil: IA como invención central (nueva arquitectura, función de pérdida o co-diseño con hardware), IA como habilitador (el modelo no es nuevo, pero la integración en un flujo de trabajo regulado crea valor), e IA como "bolt-on" (la etiqueta sin sustancia, que el año pasado llevó a la SEC a multar a dos firmas de inversión por AI washing).

La trampa del bolt-on y su costo en América Latina

El patrón del bolt-on es especialmente relevante para el ecosistema latinoamericano, donde el término "IA" se ha convertido en un pasaporte casi obligatorio para startups que buscan financiamiento. Parikh lo describe con precisión: "no hay datos únicos ni contribución algorítmica, no hay mejora significativa contra una línea base simple, y la salida no altera materialmente las acciones humanas o de máquina". Una startup que use una API de OpenAI para generar texto y lo venda como "IA propia" es un bolt-on. Un sistema que use un modelo pre-entrenado pero lo adapte a data local de salud con calibración y guardrails documentados —y que demuestre mejora en tiempo de diagnóstico— es un habilitador. La diferencia no es semántica: define si hay propiedad intelectual defendible, si se puede patentar, y si un inversor o cliente sofisticado va a pasar la debida diligencia sin encontrar solo humo.

Pero hay otra dimensión donde la señal y el ruido se cruzan de manera peligrosa. El framework de OpenAI define "daño severo" como la muerte o lesión grave de miles de personas o cientos de miles de millones de dólares en daño económico. Para llegar a ese nivel, un modelo debe cruzar umbrales muy concretos de capacidad. Y sin embargo, la mayoría de las empresas —especialmente en mercados emergentes— no tienen ni la infraestructura ni el talento para hacer esa medición. Aquí el problema es doble: no solo no se mide bien, sino que no se sabe qué medir.

Evaluaciones que escalan y la promesa de un nuevo estándar

OpenAI reconoce que "los avances en razonamiento pueden desbloquear nuevas capacidades sin tanto entrenamiento como en el paradigma anterior", lo que obliga a métodos de evaluación que escalen junto con la frecuencia de despliegue. La compañía promete "evaluaciones de capacidad escalables" complementadas con inmersiones periódicas más profundas. Pero la transparencia prometida aún depende de que el Safety Advisory Group (SAG) y el Board puedan realmente supervisar decisiones que, según el propio documento, "pronto requerirán un nivel de planificación y coordinación más allá de lo que se necesitaba para medir capacidades". La gobernanza interna es el otro filtro de señal contra el ruido.

Para las empresas latinoamericanas que están decidiendo si adoptar, invertir o construir sobre IA, la lección es simple pero incómoda: antes de preguntar qué puede hacer un modelo, hay que preguntar cómo se mide lo que dice hacer. Un benchmark sin línea base, una demo sin métricas de generalización, o un pitch deck que mencione "IA" sin especificar tarea, métrica o entorno es —con alta probabilidad— ruido. Y en un entorno donde los recursos son limitados, el ruido cuesta caro.