Gemini subestima el ascenso al Monte Shasta y tres excursionistas son rescatados

Tres jóvenes comenzaron a escalar el Monte Shasta, en California, a las tres de la madrugada con una mochila preparada según las indicaciones de Gemini. El chatbot de Google les había dicho que la ida y vuelta tomaría ocho horas. Llegaron a la cima a las siete de la tarde —dieciséis horas después— y terminaron pasando la noche en el cañón Mud Creek antes de ser rescatados por guardabosques al día siguiente.

Según el informe de la oficina del sheriff del condado de Siskiyou, Gemini les recomendó llevar mucho menos comida y agua de la necesaria, y sugirió carbohidratos simples en lugar de grasas bajo el argumento de que estas tardan más en digerirse. Cuando la jornada se alargó el doble de lo previsto, el grupo se quedó sin provisiones, sin ropa de abrigo suficiente y con el teléfono sin batería. Uno de los escaladores sufrió una caída a 3.500 metros que le lesionó la rodilla; dos intentos de rescate en helicóptero fallaron por el viento.

"No confíen únicamente en la IA para planificar su viaje", advirtió la oficina del sheriff. "Llamen a la estación de guardabosques local antes de salir" según el Chicago Tribune.

Un patrón que va más allá de la montaña

El caso no es aislado. La Razón recuerda que ya hubo turistas enviados a un supuesto Cañón Sagrado de Humantay en los Andes que no existía, tras seguir recomendaciones de IA según La Razón. Un estudio de Stanford citado por el mismo medio encontró que los chatbots tienden a validar decisiones perjudiciales del usuario en lugar de contradecirlas. Otros episodios documentados: un agricultor que perdió 25 acres de cultivos tras seguir consejos de control de plagas, un hombre que desarrolló un trastorno psiquiátrico por una dieta de ChatGPT, y un joven de 19 años que recibió una combinación de sustancias potencialmente letal.

La tecnología sí puede funcionar —si se le dan los datos correctos

La diferencia entre un modelo de propósito general y uno especializado queda expuesta en el paper académico Judy, un chatbot de recomendación de senderos basado en LLM con generación aumentada por recuperación (RAG) en arXiv. Los investigadores de la Universidad de Connecticut construyeron una base de datos estructurada con más de 260 senderos de ese estado —longitud, dificultad, permisos, reseñas— y usaron embeddings de Sentence Transformers para recuperar solo la información relevante antes de pasársela al modelo. El resultado: 96% de precisión en las respuestas, frente al 88% del mismo modelo sin RAG, con tiempos de respuesta de 0,73 segundos.

Clara es la lección: la IA generativa sola alucina en dominios donde no tiene datos de verdad. Cuando se le ancla a una base de datos verificada y se le obliga a citar fuentes, la fiabilidad sube drásticamente.

¿Qué significa esto para América Latina?

En la región, el turismo de montaña mueve millones de dólares al año: el Aconcagua, el Cotopaxi, el Nevado del Ruiz, los volcanes de Guatemala, la Patagonia. Cada vez más agencias y guías independientes usan herramientas de IA para armar itinerarios, estimar tiempos y sugerir equipamiento. Pero no existe regulación que exija validación de datos geográficos o meteorológicos en las respuestas de estos modelos, ni obligación de advertir al usuario cuando la información proviene de un modelo probabilístico y no de una fuente oficial.

El caso de Asturias, donde los rescates de montaña se disparan en verano por "desconocimiento de los senderistas" y falta de planificación según RTVE, muestra que el problema no es solo tecnológico: es cultural. La IA amplifica la tendencia a delegar la responsabilidad en una pantalla.

• Los gobiernos locales y parques nacionales deberían publicar APIs abiertas con datos oficiales de senderos, condiciones y alertas, para que cualquier sistema RAG pueda consumirlos en tiempo real.
• Las plataformas que ofrezcan planificación de actividades de riesgo deberían estar obligadas a incluir guardrails: advertencias visibles, enlaces a fuentes oficiales y prohibición de generar itinerarios sin confirmación humana.
• Los seguros de viaje y responsabilidad civil podrían empezar a excluir coberturas si el siniestro se originó en una planificación basada exclusivamente en IA no verificada.

No perdona la improvisación la montaña. La IA, tal como se despliega hoy, premia la apariencia de competencia sobre la competencia real. Hasta que la regulación y la arquitectura técnica cierren esa brecha, cada excursionista que pregunte a un chatbot "¿qué llevo y cuánto tardo?" está apostando su vida a una probabilidad estadística.

¿Está su organización —ya sea un parque nacional, una agencia de turismo o una aseguradora— preparada para responder cuando la próxima víctima diga "me lo dijo la IA"?