📅 Miércoles, 7 de Octubre, 2026
⏰ 11:00 h – 12:00 h
- Formato: Online (live)
- Duración: 60 minutos
- Nivel: Básico a intermedio
- Idioma: Inglés
La inteligencia artificial está apoyando cada vez más a las organizaciones de salud en áreas como el diagnóstico, la imagen médica, el seguimiento de los pacientes, la predicción de riesgos, la optimización del tratamiento y la planificación operativa. A medida que la IA se integra más a fondo en los flujos de trabajo clínicos, los profesionales de la salud se enfrentan a un reto común: asegurarse de que los sistemas de IA no solo sean precisos, sino también comprensibles, fiables y útiles en entornos sanitarios reales.
Cerrando la brecha entre los modelos de IA y la confianza clínica
En la segunda sesión de nuestra serie de webinars sobre Inteligencia Artificial Explicable (XAI) –puedes volver a ver la primera sesión, XAI para la toma de decisiones aquí –exploraremos cómo el XAI puede ayudar a reducir la distancia entre el rendimiento técnico de los modelos y la adopción clínica práctica. Esta sesión se centra en cómo diseñar y comunicar explicaciones de IA que ayuden a los profesionales de la salud a entender, validar y hacer un uso adecuado de los conocimientos basados en IA. Estas capacidades también son cada vez más relevantes para la preparación normativa en Europa, ya que el AI Act de la UE establece requisitos relacionados con la transparencia, la interpretación de los resultados y la supervisión humana efectiva para ciertos sistemas de IA sanitaria de alto riesgo. Aunque esta no es una sesión normativa, el webinar explorará brevemente cómo los enfoques prácticos centrados en el médico pueden apoyar estas expectativas.
¿Cómo pueden los profesionales clínicos confiar en una recomendación de IA si no entienden cómo se llegó a ella? La realidad es que la precisión técnica por sí sola rara vez impulsa la adopción en la sanidad. Incluso los modelos con muy buen rendimiento pueden quedar sin usar si los profesionales de la salud no pueden evaluar el razonamiento detrás de las predicciones, entender los factores que contribuyen o saber cuándo cuestionar un resultado.
Por qué es importante la IA explicable en la salud
Las decisiones sobre la salud afectan directamente los resultados de los pacientes. Por eso, los clínicos deben ser capaces de evaluar y entender las recomendaciones que proporcionan los sistemas de IA antes de incorporarlas a sus flujos de trabajo. Una de las barreras más comunes para la adopción de la IA en la salud no es el rendimiento del modelo, sino la falta de confianza. Algunas de las preguntas que los clínicos plantean con más frecuencia son:
- ¿Por qué se clasificó a este paciente como de alto riesgo?
- ¿Cuáles factores contribuyeron más a esta predicción?
- ¿Se puede justificar clínicamente esta recomendación?
- ¿La explicación se alinea con los conocimientos médicos establecidos?
- ¿Cuándo se debería cuestionar o revisar el resultado del modelo?
Sin explicaciones significativas, los sistemas de IA pueden percibirse como cajas negras difíciles de validar en entornos clínicos reales. La IA explicable ayuda a abordar estas preocupaciones haciendo que el razonamiento del modelo sea más transparente, permitiendo a los médicos entender mejor las predicciones e integrar los conocimientos de la IA en el proceso de toma de decisiones. Las organizaciones sanitarias cada vez miran más allá de la exactitud del modelo a la hora de evaluar soluciones de IA. Para crear un valor real en entornos clínicos, los sistemas de IA también deben ser:
- Suficientemente transparentes para que los profesionales puedan entender los factores detrás de las predicciones y recomendaciones.
- Fiables y robustos en diversas poblaciones de pacientes y escenarios clínicos.
- En línea con el razonamiento clínico y las prácticas establecidas en salud.
- Capaces de dar soporte a la colaboración entre científicos de datos, profesionales de la salud y responsables de la toma de decisiones.
- Confiable para los usuarios finales (sanitarios) que, al fin y al cabo, son los responsables del cuidado de los pacientes.
Aunque la falta de confianza a menudo se menciona como una barrera para la adopción de la IA, casi nunca es el único desafío. Una implementación eficaz de la IA también requiere una comunicación clara, interpretabilidad y una comprensión compartida del comportamiento del modelo entre los equipos técnicos y clínicos. La IA explicable proporciona las herramientas y metodologías necesarias para afrontar estos desafíos y transformar la IA de un resultado técnico a una capacidad práctica de apoyo en la toma de decisiones.
Hacer que la explicabilidad sea comprensible para los clínicos
Producir explicaciones es solo el primer paso. Muchas técnicas de XAI generan resultados que tienen sentido para los científicos de datos pero que son difíciles de interpretar para los profesionales de la salud dentro del contexto de la atención al paciente. Para que la IA sea realmente útil en la sanidad, las explicaciones deben traducirse en formas que se alineen con el pensamiento clínico y los procesos de toma de decisiones. Esta sesión explorará cómo podemos traducir las explicaciones de la IA en conocimientos clínicamente relevantes?
- Qué necesitan realmente los clínicos de las explicaciones de la IA.
- Cómo interpretan los diferentes actores del sector sanitario los resultados de los modelos.
- Técnicas para presentar el razonamiento del modelo de manera significativa desde el punto de vista clínico.
- Cómo la XAI puede fortalecer la colaboración entre los expertos en salud y los equipos de desarrollo de IA.
El objetivo no es simplemente explicar el modelo, sino asegurarse de que las explicaciones respalden un juicio clínico informado. Muchas organizaciones implementan con éxito técnicas sofisticadas de XAI, pero las visualizaciones, métricas y resultados técnicos que resultan, a menudo están pensados más para científicos de datos que para profesionales de la salud. Los participantes aprenderán cómo pasar de explicaciones técnicas a explicaciones que apoyen el juicio y la toma de decisiones clínicas.
Qué aprenderás
Durante esta sesión, los participantes obtendrán conocimientos prácticos sobre:
- Por qué la confianza sigue siendo una de las barreras más grandes para la adopción de la IA en la salud.
- El papel de la IA explicable en el apoyo a la toma de decisiones clínicas.
- Traducir explicaciones técnicas en conocimientos fáciles de entender para los clínicos, la diferencia entre explicar un modelo y comunicar una explicación de manera efectiva.
- Diseñar explicaciones transparentes para diferentes actores del sector sanitario que se integren en los flujos de trabajo clínicos.
- Cómo la XAI puede apoyar la transparencia y la supervisión humana en IA sanitaria de alto riesgo según la AI Act (acuerdo de la IA de la UE).
- Mejores prácticas para enfoques centrados en las personas en la adopción de la IA en la salud.
El énfasis está totalmente puesto en crear sistemas de IA que los profesionales de la salud puedan entender, evaluar y usar con confianza en su práctica. Al final de esta sesión, los participantes entenderán cómo la IA explicable puede ayudar a crear sistemas de IA en la atención sanitaria que sean:
- Transparentes – los clínicos pueden entender los factores que influyen en las predicciones.
- Interpretables – las explicaciones se presentan de manera significativa desde el punto de vista clínico.
- Fiables – los profesionales de la salud pueden evaluar y usar con confianza los resultados de la IA.
- Adoptables – las soluciones de IA se integran de manera natural en los flujos de trabajo clínicos.
El foco estará en hacer que la explicabilidad sea útil, comprensible y aplicable para los profesionales de la salud. Al final de la sesión, nuestra Chief Data Scientist, Burcu Kolbay, responderá preguntas en directo. Invitado especial: se une nuestra Chief Data Scientist, el Dr. Josep Vidal, miembro del grupo de trabajo de proyectos de IA multidisciplinarios y multi-territoriales del Institut Català de la Salut (ICS). El Dr. Vidal compartirá perspectivas prácticas sobre la adopción de la IA en entornos sanitarios, la importancia de la explicabilidad para la toma de decisiones clínicas y los retos de traducir los conocimientos de la IA en información que los profesionales de la salud puedan usar con confianza en su práctica diaria.
A quién se dirige
Esta masterclass está diseñada para profesionales implicados en el desarrollo, la implementación, la evaluación o la adopción de la IA en la salud, incluyendo:
- Especialistas en Informática Clínica
- Líderes en Salud Digital
- Profesionales de Dispositivos Médicos y HealthTech
- Médicos e Investigadores Clínicos
- Equipos de Innovación Hospitalaria
- Prescriptores de Decisiones Sanitarias
No se requiere ninguna formación técnica avanzada. La sesión está pensada para fomentar el diálogo entre las comunidades técnica y clínica.
Detalles del webinar
📅 Miércoles, 7 de Octubre, 2026
⏰ 11:00 h – 12:00 h
- Formato: Online (live)
- Duración: 60 minutos
- Nivel: Básico a intermedio
- Idioma: Inglés
Únete a esta segunda sesión de nuestra serie de webinars sobre IA explicable para descubrir cómo las organizaciones de salud pueden desarrollar soluciones de IA en las que los clínicos confíen, los responsables de decisiones comprendan y los profesionales de gobierno y regulación puedan evaluar con confianza.