Sanidad pone límites a la inteligencia artificial en medicina: «No sustituye al criterio profesional»

La inteligencia artificial (IA) ha entrado de lleno en nuestras vidas y ya constituye una herramienta de uso diario para muchas personas en su ámbito personal, pero también en el laboral. Es por ello que algunas profesiones han comenzado ya a regular su uso, y una de ellas es la Medicina.

La IA ya ocupa un espacio cada vez mayor en la atención sanitaria. El análisis de imágenes médicas, la elaboración de resúmenes clínicos, la gestión de información o la predicción de determinados riesgos son algunos de los ámbitos en los que estas tecnologías ya comienzan a incorporarse a los procesos asistenciales. Su avance abre nuevas posibilidades para agilizar el trabajo de los profesionales, pero también plantea dudas sobre su seguridad, sus límites y las responsabilidades derivadas de su uso.

Ante este escenario, la Secretaría General de Salud Digital, Información e Innovación del Sistema Nacional de Salud (SNS) ha elaborado una nueva guía dirigida a los profesionales sanitarios que seleccionan, supervisan o utilizan herramientas de inteligencia artificial en su actividad. El documento pretende establecer criterios para garantizar que la incorporación de estas tecnologías se produzca de forma segura y responsable.

Entre sus principales recomendaciones figuran la supervisión humana de los resultados, la protección de los datos de los pacientes, la validación previa de las herramientas y la formación de los profesionales que vayan a utilizarlas.

«La incorporación de la inteligencia artificial a la práctica sanitaria abre nuevas posibilidades para mejorar y agilizar determinados procesos, pero también plantea la necesidad de establecer criterios claros sobre cómo y cuándo deben utilizarse estas herramientas», señala Ruth Cuscó, directora gerente de ASHO, empresa especializada en asesoramiento hospitalario. A su juicio, la guía supone un paso para avanzar hacia una integración de la IA que combine innovación, seguridad y responsabilidad profesional.

¿Quién responde si la IA se equivoca?

Uno de los aspectos que aborda el documento es precisamente una de las grandes cuestiones que plantea la utilización de algoritmos en medicina: quién asume las consecuencias cuando una herramienta de IA ofrece una recomendación errónea.

La respuesta de la guía es clara: la inteligencia artificial carece de personalidad jurídica y, por tanto, no puede asumir la responsabilidad derivada de una decisión clínica. Esta podrá recaer, dependiendo de las circunstancias, en el profesional sanitario o en la institución que haya utilizado la herramienta, sin perjuicio de una eventual responsabilidad del fabricante o proveedor cuando exista un defecto en el sistema.

Por este motivo, los sanitarios deben conocer las limitaciones de las herramientas que utilizan, supervisar sus resultados y ser capaces de justificar las decisiones adoptadas cuando estas se hayan apoyado en sistemas de inteligencia artificial.

La guía contempla además situaciones en las que la recomendación del algoritmo entre en conflicto con el criterio médico o con la evidencia científica disponible. En esos casos, el profesional debe anteponer la seguridad del paciente, documentar la discrepancia y evitar que el resultado de la IA se convierta en la única base para tomar una decisión clínica.

La filosofía que subyace al documento es, por tanto, que la tecnología puede asistir al profesional, pero no sustituirlo. Antes de incorporar una recomendación generada automáticamente, el médico debe revisarla, contrastarla con la evidencia disponible y comprobar que resulta adecuada para las circunstancias concretas del paciente. «La IA puede ayudar a procesar información y agilizar determinados procesos sanitarios, pero el profesional debe mantener en todo momento la capacidad de revisar, cuestionar y, cuando sea necesario, rechazar el resultado generado por la herramienta», explica Cuscó.

La protección de la información constituye otro de los pilares de las recomendaciones. Los profesionales no deben introducir datos personales o clínicos identificables en herramientas que no estén autorizadas para su utilización en el ámbito sanitario o que no ofrezcan las garantías necesarias en materia de protección de datos.

Así, la incorporación de la IA a la sanidad no se plantea únicamente como una cuestión tecnológica. La guía pone el acento en la necesidad de combinar innovación y control para evitar que la automatización de determinados procesos termine debilitando la supervisión médica o comprometiendo la privacidad de los pacientes. La decisión final, especialmente cuando está en juego la salud de una persona, continúa siendo responsabilidad humana.