Doctor Trujillo, experto en IA: "La inteligencia artificial puede convertirse en uno de los mejores copilotos que haya tenido nunca un médico"

Interpretar imágenes, valorar riesgos y proponer diagnósticos y recomendaciones clínicas son algunas de las tareas que, actualmente, lleva a la cabo la inteligencia artificial (IA) en la práctica médica. Sin duda, estas acciones están ayudando a los profesionales en su toma de decisiones, pero, aun así, la tecnología no puede sustituir la responsabilidad profesional. 

La IA hace que los profesionales y las organizaciones sanitarias se planteen nuevos desafíos, pero también interrogantes. ¿Qué pasa si algo sale mal? Si la inteligencia artificial se equivoca y ese error termina afectando a un paciente, ¿quién responde? ¿Dónde hay que poner el límite? 

Medicina Responsable ha hablado sobre ello y otras cuestiones que surgen en el sector sanitario con el doctor José Antonio Trujillo Ruiz, médico experto en inteligencia artificial aplicada a la Medicina y vicepresidente del Colegio de Médicos de Málaga. 

A la pregunta de qué ocurre si la IA se equivoca en un diagnóstico y a quién se responsabiliza, el experto señala que dependerá de cómo se produjo el daño. “Puede afectar al profesional, al centro sanitario, al proveedor o fabricante de la tecnología, e incluso concurrir entre varios. Hay que analizar si se utilizó correctamente, para la finalidad prevista, con supervisión adecuada y si el error era razonablemente detectable. Lo importante es entender que la IA no es un sujeto que asuma por sí mismo la responsabilidad”, explica el doctor Trujillo.

Cuando la herramienta ofrece a un profesional sanitario una propuesta diagnóstica o terapéutica, este debe interpretarla dentro del contexto clínico y contrastarla con el resto de la información disponible. “La supervisión humana es esencial. Utilizar IA puede apoyar el razonamiento clínico, pero no exonera de ejercer juicio profesional. Puede convertirse en uno de los mejores copilotos que haya tenido nunca un médico, pero el copiloto no puede sustituir a quien lleva la responsabilidad clínica. Hay que utilizarla para pensar mejor, detectar más, ahorrar tiempo y reducir errores; nunca para dejar de pensar. En Medicina, la última decisión debe seguir teniendo nombre, criterio y responsabilidad humana”, aclara.

Ahí está el límite; en conservar una supervisión humana real y no meramente formal. El experto explica a Medicina Responsable que el médico debe entender para qué sirve la herramienta, sus limitaciones y cuándo desconfiar de su resultado. “Si el profesional se limita a aceptar sistemáticamente lo que propone el algoritmo, dejamos de hablar de apoyo a la decisión y empezamos a hablar de delegación. Y en Medicina, especialmente cuando existe riesgo para el paciente, esa diferencia es fundamental”, sentencia el vicepresidente del Colegio de Médicos de Málaga.

Para el doctor, uno de los riesgos que están sobre la mesa y del que menos se habla es el sesgo de automatización, que es la tendencia a confiar de manera ciega o excesiva en las decisiones, sugerencias o diagnósticos generados por un sistema automatizado o de inteligencia artificial. "El problema aparece cuando dejamos de buscar activamente la posibilidad de que la tecnología esté equivocada. Una buena IA debería aumentar nuestra capacidad crítica, no disminuirla", añade. 

Respecto a otros peligros el doctor Trujillo destaca la pérdida de privacidad, la falta de trazabilidad, la utilización de herramientas que no han sido validadas para el uso clínico que se les está dando y la comodidad. "Esta nos puede llevar a empobrecer determinadas capacidades profesionales. La IA debe descargar tareas y aumentar nuestras capacidades, no convertir al médico en un mero ejecutor de recomendaciones automatizadas", señala.

El hecho de que la inteligencia artificial aprenda datos hace que estos nunca representan de manera perfecta a toda la población. Por ello, puede funcionar correctamente en unos pacientes y peor en otros. "No basta con preguntar cuánto acierta un algoritmo; hay que preguntar también en quién se ha probado, con qué datos y si ese rendimiento se mantiene en nuestros pacientes", explica el experto.

Precauciones e información al paciente

Cada vez más profesionales utilizan herramientas como ChatGPT, Claude o Gemini en su actividad diaria. Una decisión que implica tener claros varios puntos. El doctor Trujillo explica a Medicina Responsable que la regla básica es no introducir datos identificativos o información clínica sensible cuando el marco de privacidad, tratamiento de datos y autorización institucional no sea adecuado para ese uso. También, recalca que el médico debe distinguir entre utilizar una IA para redactar o estructurar información y emplearla para tomar decisiones clínicas. 

En este último caso, el experto aconseja que se refleje en la historia clínica del paciente la intervención de la IA. "Esto no significa llenar el historial de detalles técnicos, sino poder reconstruir después cómo se tomó una decisión importante; qué información se utilizó, qué herramienta intervino y cuál fue finalmente el criterio del profesional. La trazabilidad protege al paciente, pero también al propio médico y a la organización", subraya.

¿Puede la IA transformar la relación médico-paciente hasta el mundo de que este confíe más en la herramienta que en el juicio clínico? El doctor Trujillo reconoce que existe este riesgo, pero también señala que se puede dar lo contrario. Así, explica que, si se utiliza bien la inteligencia artificial, puede liberar tiempo burocrático y devolver tiempo de calidad a la relación médico-paciente. "El error sería utilizarla para sustituir precisamente aquello que constituye la esencia humana de la Medicina: escuchar, contextualizar, explicar, acompañar y compartir decisiones. La mejor tecnología sanitaria será la que haga al médico más disponible para el paciente, no menos", explica.

Respecto a la responsabilidad que tienen los hospitales y las organizaciones sanitarias en este tema, el experto señala que deben establecer "una verdadera gobernanza de la IA" que indique las herramientas autorizadas, los criterios de validación, la protección de datos, los responsables, los mecanismos de supervisión, los sistemas para comunicar incidentes y una formación. "Si un hospital permite que cientos de profesionales incorporen IA de forma desordenada, el problema deja de ser individual y pasa a ser organizativo", añade.

Al igual que no es una buena práctica emplear la IA sin supervisión humana tampoco lo es ignorarla cuando se sabe que permite detectar antes una enfermedad, reducir errores o mejorar un tratamiento. Respecto a ello, el doctor Trujillo recalca que ser prudente no significa ser inmovilista, ya que el objetivo no es utilizar mucha o poca inteligencia artificial, sino utilizar la que aporte valor clínico con garantías suficientes.

Los principios básicos para su utilización

A la hora de dar consejos a sus colegas que todavía no han utilizado la IA pero están dispuestos a hacerlo, el médico experto señala cinco. "Primero, proteger los datos del paciente. Segundo, utilizar herramientas adecuadas para la finalidad perseguida. Tercero, verificar cualquier resultado que pueda modificar una decisión clínica. Cuarto, conocer las limitaciones de la herramienta y evitar la confianza automática. Y quinto, mantener siempre la responsabilidad y el juicio profesional", concluye el doctor Trujillo.

 

Doctor José Antonio Trujillo Ruiz, médico experto en inteligencia artificial aplicada a la Medicina y vicepresidente del Colegio de Médicos de Málaga. 

---