Salud Digital con Inteligencia Artificial: Entre el Avance Tecnológico y la Protección de Derechos Humanos en América Latina
OpenAI puso a disposición del público en Estados Unidos la función Health in ChatGPT, que permite a los usuarios conectar sus registros médicos y datos de Apple Health para recibir respuestas contextualizadas sobre medicación, resultados de laboratorio, evolución de síntomas y el impacto del sueño o la actividad física en su salud. La compañía aclaró que la información conectada no se utiliza para entrenar modelos ni para publicidad dirigida, y que el asistente solicitará permiso expreso antes de acceder a los datos personales. Sin embargo, desde una perspectiva de derechos humanos, la simple existencia de este consentimiento no garantiza que los usuarios comprendan plenamente las implicaciones de compartir datos tan sensibles, ni que existan mecanismos efectivos para revocar ese acceso o exigir la eliminación de la información una vez compartida.
La función está disponible para usuarios mayores de 18 años en la versión web y en iOS, dentro de los planes Free, Go, Plus y Pro. Aunque el lanzamiento se concentra en Estados Unidos, las implicaciones para América Latina son inmediatas: cualquier clínica o aseguradora que opere con pacientes o afiliados que usen dispositivos Apple y ChatGPT tendrá que evaluar si sus políticas de privacidad y transferencia internacional de datos cumplen con las leyes locales, especialmente ante la falta de marcos armonizados en la región. La brecha digital y la asimetría de poder entre el usuario y la empresa tecnológica son factores que deben ser considerados, pues en muchos países de la región el acceso a información clara sobre derechos digitales es limitado, lo que vulnera el derecho a la autodeterminación informativa.
Un benchmark clínico que desafía a los médicos
Paralelamente, OpenAI publicó HealthBench Professional, un conjunto de evaluación diseñado para medir el desempeño de modelos de lenguaje en tareas reales que los médicos llevan a ChatGPT en su práctica diaria. El benchmark incluye 525 conversaciones reales de médicos con ChatGPT for Clinicians, organizadas en tres categorías: consulta de cuidados, redacción y documentación, e investigación médica. Cada ejemplo fue calificado con rúbricas creadas y revisadas por al menos tres médicos.
Los resultados son contundentes: el mejor sistema evaluado, GPT-5.4 dentro de ChatGPT for Clinicians, superó en puntuación al modelo base GPT-5.4, a todos los demás modelos y a médicos humanos que realizaron las mismas tareas con tiempo ilimitado, acceso a especialistas y a internet. Según OpenAI, el uso de ChatGPT entre médicos se duplicó en el último año y hoy millones de clínicos lo utilizan semanalmente para razonar casos complejos, redactar documentos y analizar evidencia. No obstante, este avance plantea interrogantes éticas: ¿cómo se garantiza que el uso de estas herramientas no perpetúe sesgos existentes en la atención médica, especialmente contra poblaciones históricamente marginadas en América Latina, como comunidades indígenas o afrodescendientes? El derecho a la salud incluye el acceso a diagnósticos equitativos, y la IA debe ser auditada para evitar discriminación algorítmica.
El riesgo de la privacidad en tres fases
Un estudio de sistematización del conocimiento publicado en arXiv (SoK: Privacy-aware LLM in Healthcare) advierte que la adopción de LLMs en salud expone vulnerabilidades en tres fases críticas: preprocesamiento de datos, ajuste fino federado e inferencia. Los investigadores identificaron que los atacantes internos —desde personal clínico hasta ingenieros de datos— pueden filtrar identificadores o cuasiidentificadores durante la limpieza y transformación de historias clínicas electrónicas, y que las defensas actuales como privacidad diferencial o agregación segura ofrecen protección parcial, pero suelen ser independientes de la fase o estar desalineadas con las amenazas reales del entorno sanitario. Desde una perspectiva de derechos humanos, esta situación expone a los pacientes a riesgos de exposición indebida de datos sensibles que pueden derivar en estigmatización, discriminación laboral o negación de servicios de salud.
Para las instituciones latinoamericanas que evalúan desplegar asistentes clínicos basados en LLMs, el mensaje es doble: por un lado, la evidencia de rendimiento es sólida y creciente; por otro, la responsabilidad regulatoria recae sobre quien implementa el sistema, no sobre el proveedor del modelo base. La ausencia de regulaciones específicas sobre IA en salud en la mayoría de los países de la región convierte a la debida diligencia en el único resguardo real. Los ejecutivos deben considerar que el derecho a la privacidad y la protección de datos personales son derechos humanos reconocidos en instrumentos internacionales como la Convención Americana sobre Derechos Humanos, y que su vulneración puede acarrear sanciones legales y reputacionales graves.
Qué significa para los ejecutivos de salud en América Latina
La combinación de estos tres desarrollos —un producto de consumo que accede a datos de salud, un modelo que ya rinde mejor que médicos en tareas concretas y un mapa detallado de riesgos de privacidad— configura un escenario donde la tentación de adoptar estas herramientas es alta, pero el costo de ignorar la gobernanza de datos puede ser catastrófico. Las aseguradoras y redes de clínicas que no definan desde hoy protocolos de consentimiento informado, anonimización robusta y auditoría de terceros quedarán expuestas a filtraciones, demandas regulatorias y pérdida de confianza de los pacientes. Además, deben incorporar una perspectiva de derechos humanos que garantice la equidad en el acceso, la no discriminación y la transparencia algorítmica. La tecnología avanza rápido; los marcos de protección, en la región, aún no arrancan, pero la responsabilidad de proteger a las personas no puede esperar.
