La Inteligencia Artificial en la Sanidad: oportunidades y retos

La inteligencia artificial hace tiempo que ha dejado de limitarse a analizar información y recomendar acciones. Con la llegada de los agentes de IA, los sistemas empiezan también a ejecutar decisiones, modificar flujos de trabajo, interactuar con aplicaciones y resolver incidencias de forma cada vez más autónoma.

En sanidad, las oportunidades que presenta son enormes: reducir carga administrativa, mejorar la experiencia del paciente, anticipar problemas, avanzar en investigación de enfermedades, acelerar determinados procesos y liberar tiempo de los profesionales para actividades de mayor valor. Pero este cambio plantea también una serie de retos importantes: ¿qué ocurre cuando una decisión es técnicamente correcta, pero resulta equivocada en el contexto en el que debe aplicarse?

Imaginemos un agente de IA encargado de supervisar los problemas de acceso de los profesionales sanitarios a las historias clínicas electrónicas, los sistemas de programación y otras plataformas corporativas. El agente detecta que hay un incremento anómalo de fallos durante los turnos nocturnos,  determina que puede existir una desviación respecto a las políticas de seguridad y aplica restricciones en el control de accesos. Desde una perspectiva puramente tecnológica, endurecer temporalmente los controles de acceso podría parecer una respuesta razonable.

Sin embargo, durante una guardia los profesionales pueden estar rotando entre unidades, atendiendo varios centros o utilizando procedimientos de emergencia. Una medida aparentemente correcta desde el punto de vista de la seguridad podría convertirse en una barrera para la atención precisamente cuando cada segundo es crítico. El sistema puede haber interpretado correctamente los datos y, aun así, haber tomado la decisión equivocada.

Este ejemplo ilustra uno de los principales retos de la IA agéntica, especialmente cuando es aplicada en entornos de misión crítica. Un agente puede conocer los datos, las reglas y los permisos que le proporcionamos, pero no comprende automáticamente todas las circunstancias clínicas, humanas, regulatorias y operativas que rodean una decisión. Y esto cambia radicalmente la forma en la que debemos diseñar estas plataformas y operarlas.

De experimentar con IA a integrarla en la operativa de tu empresa

En un entorno tecnológico, una acción incorrecta puede afectar a la continuidad de un servicio, a la seguridad, al cumplimiento normativo o, en sanidad, incluso a la atención al paciente. Por eso no basta con preguntarse si un agente es capaz de realizar una tarea y con qué precisión. Hay que determinar también bajo qué condiciones puede realizarla, por qué regulación debe regirse, cuáles son los roles clave del proceso, qué sistemas puede modificar, qué información puede utilizar, qué decisiones requieren aprobación humana y en qué circunstancias debe detenerse y escalar – en definitiva - cuáles son los guardarraíles.

Por todos estos motivos, la gobernanza y la seguridad no pueden incorporarse al finalizar el desarrollo como una última capa de control. Deben formar parte de la arquitectura desde el principio. El objetivo tampoco debería ser limitar indiscriminadamente la autonomía. Se trata de decidir dónde esa autonomía genera valor, dentro de qué límites puede operar y cuándo la decisión debe volver a una persona. Por eso, cuando los agentes empiezan a intervenir en procesos empresariales es necesario gestionarlos como cualquier otro componente crítico del entorno. Aquí surge la necesidad de una disciplina de AgentOps.

No se trata simplemente de monitorizar si un modelo está disponible. Es necesario poder observar qué objetivo recibió un agente, qué datos utilizó, qué herramientas invocó, qué decisiones tomó, qué política autorizó cada acción, qué resultado obtuvo y cuándo decidió escalar a una persona. También necesitamos gestionar identidades y permisos, versiones de agentes y políticas, dependencias, costes, evaluaciones continuas, cambios de comportamiento, excepciones e incidentes. En otras palabras: si los agentes van a formar parte de la operación, deben ser observables, gobernables y auditables como parte de la operación. Por diseño.

En sanidad esto es especialmente relevante. No basta con saber que una acción ocurrió. En determinados procesos debemos ser capaces de reconstruir por qué ocurrió y bajo qué autorización. La trazabilidad deja de ser una funcionalidad de auditoría posterior para convertirse en una característica arquitectónica clave.

No es solo tecnología

La tecnología es solo una parte importante. Existe, además, otra dimensión que no debemos perder de vista: la adopción de estos sistemas transforma la relación entre los profesionales y la tecnología, transforma las organizaciones, e incluso las funciones y responsabilidades.

Los profesionales clínicos necesitan entender qué pueden hacer los agentes, integrarlos en su día a día, saber cuáles son sus límites y cuándo deben cuestionar o escalar una recomendación. Y los equipos de tecnología necesitan comprender que una actuación aparentemente técnica puede tener consecuencias clínicas relevantes. Esto obliga a acercar mundos que tradicionalmente han operado de forma separada.

El éxito no debería medirse simplemente por cuántas decisiones dejamos de tomar las personas, sino por cómo cambia la calidad del trabajo que realizan. Si la IA agéntica permite que un profesional sanitario dedique menos tiempo a tareas administrativas y más al paciente, hemos generado valor. Si reduce interrupciones, evita búsquedas innecesarias de información, agiliza la coordinación entre equipos y hace que las excepciones lleguen antes a la persona adecuada, estamos mejorando el sistema.

La mejor automatización no siempre es la que elimina a una persona del proceso. En muchos casos, es la que consigue que esa persona intervenga únicamente cuando su conocimiento, experiencia o responsabilidad realmente aportan valor.

Automatizar después de contextualizar

Las organizaciones sanitarias tienen ante sí una oportunidad extraordinaria. Pero para aprovecharla deben resistir la tentación de automatizar primero y contextualizar después.

Incorporar IA agéntica a un entorno de misión crítica no consiste simplemente en añadir más inteligencia a los sistemas existentes. Significa diseñar una nueva capa operativa capaz de actuar, pero también de conocer sus límites.

Eso requiere seguridad y gobernanza por diseño, políticas ejecutables, observabilidad de extremo a extremo, mecanismos claros de intervención humana y una disciplina operativa capaz de gestionar agentes durante todo su ciclo de vida.

La IA en sanidad no será confiable simplemente porque acierte más veces. Lo será cuando sepamos qué puede decidir, qué no puede decidir, por qué ha actuado, quién le ha dado autoridad para hacerlo y cómo recuperar el control cuando el contexto exige algo diferente.

Eso es lo que marcará la diferencia, y es el verdadero salto entre experimentar con inteligencia artificial y convertirla en parte de tu sistema de misión crítica.

 

 

---