Los videos y el texto de esta sesión son complementarios. Los videos amplían el contexto histórico y conceptual; el texto va a los mecanismos y te pone a interactuar con ellos. Encontrarás ideas en los videos que el texto no repite exactamente. ¡Disfruta de esta dinámica!
Introducción
Imagina esta escena. Es de noche en una clínica de la Huasteca potosina. Una médica general atiende a muchas personas y no siempre tiene a un especialista cerca. Llega un paciente con diabetes y visión borrosa. La clínica usa una herramienta que analiza imágenes del ojo y sugiere si hace falta mandar a la persona con urgencia a un hospital más grande.
Esa es una escena hipotética para San Luis Potosí. Sin embargo, en otras regiones del mundo con contextos similares ya es una realidad. Si queremos integrar ese tipo de IA en el sector salud en México, tenemos que preguntarnos: ¿qué hace exactamente esa herramienta? ¿Cómo funciona? ¿Qué hay que saber para usarla bien, y para saber cuándo falla?
Es decir, si una herramienta de IA participa en decisiones sobre tu salud, ¿qué tendría que pasar para que eso sea justo, seguro y de utilidad?
¿Dónde está la IA en el sector salud?
Cuando una clínica, un hospital o un laboratorio dice que usa IA, puede estar hablando de cosas muy distintas. A veces la IA ayuda a orientar un diagnóstico: identificar qué problema de salud podría tener una persona. Otras veces apoya el triage, que significa decidir qué casos necesitan atención primero (priorizar urgencias). También puede ordenar citas, resumir notas clínicas, asignar recursos o acelerar investigación científica.
El mapa de abajo nos ayuda a ordenar los usos más comunes.
Mapa
Dos preguntas para ubicar una IA en el sector salud
Primero identifica si la herramienta se utiliza de manera directa o indirecta en un paciente. Después identifica si apoya una decisión clínica, una operación del sistema o investigación científica.
Paciente + decisión clínica
Apoyar diagnóstico o referencia
Analiza señales del paciente para orientar una decisión médica supervisada.
Adaptado del marco IAC de Okolo y González Amador (2023)
Este mapa funciona además como un compás: ayuda a ubicar en qué momento entra la IA a la relación entre paciente, personal de salud e institución. Esa ubicación importa porque cada uso abre preguntas éticas distintas: qué debe regularse, cuánto entiende el paciente, cómo se pide consentimiento y qué tanta agencia conserva la persona sobre su atención. Usar IA para resumir notas clínicas no implica los mismos riesgos que usarla para priorizar pacientes o sugerir una referencia médica.
AlphaFold: IA para ciencia fuera del hospital
Mucha gente piensa en IA en salud como una herramienta que aparece durante una consulta, frente a una persona enferma. Sin embargo, la inteligencia artificial ha tenido un gran impacto en la investigación que ayuda a entender enfermedades, explorar tratamientos y acelerar trabajo científico que antes tomaba años.
Un ejemplo de ello es el modelo de inteligencia artificial AlphaFold 2, que ayuda a estudiar la forma de las proteínas, que son piezas centrales para entender cómo funciona el cuerpo y cómo podrían diseñarse nuevos medicamentos. Al estar disponible para la comunidad científica, investigadoras e investigadores de más de 190 países ya lo usan para estudiar problemas como resistencia antimicrobiana, enfermedades del corazón, padecimientos tropicales desatendidos y diseño de fármacos; el modelo nos ha ayudado a acortar el camino entre una pregunta biológica y una posible línea de tratamiento.
Las proteínas son moléculas que cumplen tareas esenciales en el cuerpo: transportar oxígeno, defendernos de infecciones o ayudar a que las células funcionen. Su forma tridimensional importa porque influye en lo que pueden hacer. Durante décadas, conocer esa forma podía requerir mucho trabajo experimental. En 2021, AlphaFold 2 mostró un avance enorme: predecir esas formas a partir de la secuencia de aminoácidos. Su base de datos pública reúne más de 200 millones de estructuras predichas y puede consultarse gratis.
Beneficios y Riesgos de la IA en el sector salud
Después de AlphaFold, pasemos a un terreno más cercano a la consulta médica. En esta parte, la IA puede influir en quién recibe atención primero, qué caso se considera urgente o quién [qué paciente] entra a un programa de seguimiento.
Para ello, analizaremos dos casos en donde la inteligencia artificial se usó de manera directa en los pacientes. En uno de ellos, la IA ayudó a ordenar una tarea clínica muy específica. En el otro, un algoritmo que parecía eficiente terminó reproduciendo sesgos históricos.
Qué hacía la IAAnalizaba tomografías de coherencia óptica, conocidas como OCT: imágenes tridimensionales de la retina. A partir de esas imágenes, sugería si la persona necesitaba atención urgente, prioritaria, de rutina o solo seguimiento.
Por qué se buscó apoyo de la IAEn oftalmología se revisan muchísimas imágenes y no siempre hay suficientes especialistas para interpretarlas rápido. Una herramienta bien diseñada puede ayudar a ordenar prioridades cuando el tiempo y la capacidad clínica son limitados.
Qué hizo posible el resultadoEl modelo se entrenó con datos clínicos de alta calidad del Hospital Moorfields de Londres y se evaluó para una tarea bien delimitada: apoyar decisiones de canalización a partir de imágenes OCT.
El resultadoEn el estudio publicado en Nature Medicine, el sistema alcanzó o superó el desempeño de expertos en varias recomendaciones de canalización. La lección es clara: una IA médica se evalúa dentro de una ruta clínica concreta.
En la India, sucedió algo similar. Se evaluó una herramienta para detectar retinopatía diabética en fotos de fondo de ojo, con pacientes de Aravind Eye Hospital y Sankara Nethralaya. Los resultados fueron positivos.
Una herramienta de IA puede ampliar el acceso a los servicios de salud cuando está entrenada con datos de calidad, validada en pacientes y usada para una tarea específica bajo supervisión clínica.
✗ CASO DE RIESGO
Algoritmo de riesgo médico con sesgo racial
Obermeyer et al., Science, octubre de 2019 · sistema usado a gran escala en EE. UU.
Qué hacía la IAAyudaba a decidir qué pacientes debían entrar a programas de seguimiento intensivo para enfermedades crónicas. Se usaba ampliamente en hospitales de EE. UU.
Qué salió malCon una gravedad similar, pacientes afroamericanos recibían puntuaciones de riesgo 26.3% más bajas que pacientes blancos. Eso podía dejarlos fuera de programas de atención que realmente necesitaban.
Por qué fallóEl sistema usaba el gasto médico histórico como indicador indirecto de necesidad de atención médica. Gastar menos no significaba estar menos enfermo; también podía reflejar décadas de desigualdad en acceso a atención médica.
La lecciónCuando los datos arrastran desigualdades históricas, un modelo puede verse correcto en métricas generales y aun así producir decisiones injustas para ciertos grupos.
Elegir qué datos se usan, qué variable se intenta predecir y cómo se revisan los resultados puede ser tan importante como elegir el modelo de IA.
Antes de usar la IA con pacientes…
Los dos casos anteriores nos dejan en claro que una herramienta [IA] puede verse prometedora en una prueba y aun así necesitar muchas revisiones antes de entrar a una clínica. Cuando se trata de la salud de una persona, no podemos guiarnos sólo por una métrica de evaluación como el porcentaje de aciertos. También debemos cuestionarnos si la herramienta está solucionando un problema que no puede resolver un humano, si funciona con la población que la va a usar y qué ocurre cuando se equivoca.
La lista a continuación sirve para evaluar una herramienta de IA antes de adoptarla en un hospital, una clínica o un programa público. La pueden usar equipos médicos, directivos, responsables de política pública o cualquier persona que quiera hacer mejores preguntas cuando escucha que “van a usar IA” en salud.
Tarea exacta. ¿La IA detecta una enfermedad, prioriza pacientes, resume una consulta, recomienda una canalización o solo organiza información?
Utilidad clínica. Su recomendación cambia algo crucial en la práctica clínica o solo produce un número interesante?
Validación local. ¿Se ha utilizado con personas parecidas a quienes la van a usar en la vida real?
Supervisión humana. ¿Quién revisa la recomendación y cómo se evita que el personal médico obedezca a la IA por inercia?
Monitoreo. ¿Alguien revisa si el desempeño baja con el tiempo, si cambia el perfil de los pacientes, los equipos médicos o la forma de capturar datos?
La IA generativa agrega otro nivel de complejidad. Puede ayudar a redactar notas clínicas, resumir expedientes, preparar instrucciones para pacientes o traducir lenguaje técnico a palabras más claras. Eso no la convierte automáticamente en una herramienta de diagnóstico. Un chatbot que “suena convincente” puede inventar datos, omitir señales importantes o dar una explicación demasiado segura. Por eso necesita límites claros: privacidad, revisión humana, registro de errores y una forma sencilla de escalar el caso a una persona.
Esta lógica coincide con recomendaciones internacionales recientes: la OMS insiste en seguridad, eficacia, transparencia y gestión de riesgos; la FDA habla de administrar estas tecnologías durante todo su ciclo de vida, no solo antes de venderlas.
¿Y México?
En México, usar inteligencia artificial en el sector salud puede brindar beneficios de gran impacto social, sobre todo cuando no hay suficientes especialistas o las distancias a hospitales más grandes son largas.
Las Estadísticas de Salud en Establecimientos Particulares de INEGI reportaron que, en 2023, los establecimientos particulares de salud con camas censables se distribuyeron en 560 municipios y demarcaciones territoriales (INEGI, 2023). Ese dato no describe todo el sistema público, aunque sí nos dice algo importante: la infraestructura de salud está concentrada en unas zonas particulates. Esto sugiere que hay zonas desatendidas, y con menor facilidad de acceso a recursos, infraestructura y atención médica.
Una herramienta de IA bien diseñada puede marcar la diferencia entre un sistema concentrado y saturado, y uno que atiende mejor a su comunidad.
La buena noticia: en SLP ya se está haciendo IA. En el IPICYT, el Dr. Salvador Ruiz-Correa y su You-i Lab desarrollaron en 2020 Centinela de la Salud: una aplicación móvil que usó IA y crowdsourcing para rastrear brotes de COVID-19 en tiempo real en San Luis Potosí capital. El proyecto fue publicado en el International Journal of Medical Informatics (2021) y surgió de una colaboración entre IPICYT, la UASLP, la Universidad de Oxford y los Servicios de Salud del estado. La IA aplicada a la salud no solo se produce en Silicon Valley. También se produce en nuestro estado.
Uso de la IA desde la perspectiva del paciente
Hasta ahora hemos visto la IA desde el lado de la tecnología, los hospitales y la investigación. Pero cuando la IA entra a una consulta, la experiencia también cambia para la persona que recibe atención. Un paciente debería poder saber si una herramienta automática participó en su diagnóstico, en la prioridad que recibió o en el uso de sus datos personales.
🔔
El derecho a saber
Si una herramienta de IA participa en tu atención clínica, deberían decírtelo con claridad: qué hace, qué no hace, qué datos usa y quién revisa sus recomendaciones.
✍️
Consentimiento informado
Aceptar una consulta no significa aceptar automáticamente que tus datos se usen para entrenar modelos futuros. Son decisiones distintas y deberían explicarse por separado.
🧭
Supervisión humana
La IA puede influir mucho aunque "solo recomiende". El personal médico necesita tiempo, criterio y autoridad para cuestionarla; si no, aparece el sesgo de automatización: creerle demasiado porque viene de una máquina.
⚖️
Responsabilidad y monitoreo
Si una recomendación automática sale mal, debe quedar claro quién responde y cómo se detecta el problema. Alguien tiene que ser responsable de revisar errores, cambios de desempeño y posibles riesgos.
Estas preguntas tienen respaldo académico: investigadoras del área de informática y economía formalizaron los principios de informar, evaluar y consentir en el marco IAC, diseñado para proteger los derechos de los pacientes cuando la IA se usa en su atención médica.
Para reflexionar
Reflexión · 5 min
Actividad de reflexión
01
¿Has dependido de una herramienta digital para algo importante en tu salud o la de un familiar? Por ejemplo, una app de recordatorios de medicamentos, una plataforma de citas, un asistente automático...
02
¿En qué se parece el sesgo del algoritmo Obermeyer a sesgos que has visto en otros lugares? ¿Qué tienen en común esos errores y por qué a veces tardan años en detectarse?
03
Si una clínica de tu comunidad quisiera adoptar una herramienta de IA - para apoyo al diagnóstico, triage o resumen de consultas — ¿qué tres preguntas harías antes de aceptar usarla? Piensa en datos, contexto local, supervisión y monitoreo.
04
Explícale a alguien menor que tú, en dos oraciones, por qué un sistema de IA puede tener un alto porcentaje de aciertos y, al mismo tiempo, producir consecuencias injustas para un grupo específico de personas.
No hay respuestas correctas o incorrectas. Esto es solo un ejercicio de reflexión.
La idea central de esta sesión
Idea central · Sesión 14
La IA puede acelerar descubrimientos científicos y ampliar el acceso a la salud, pero también conlleva riesgos. Para minimizarlos, debemos tener claro para qué tarea se ha diseñado, qué datos se usaron para su entrenamiento, en qué contexto, y cómo se salvaduarga la agencia de los pacientes.
Base de datos pública con más de 200 millones de estructuras proteínicas predichas. Puedes buscar cualquier proteína conocida — gratis y en el navegador.