Un estudio del centro INGENIO, dependiente del Consejo Superior de Investigaciones Científicas (CSIC) y la Universitat Politècnica de València (UPV), ha propuesto un marco ético para la incorporación de la inteligencia artificial (IA) en los sistemas de apoyo a las decisiones clínicas. La investigación, publicada en la revista Science and Engineering Ethics, defiende que estos sistemas basados en IA deben diseñarse como herramientas de apoyo al juicio humano, aplicando un marco basado en la ética discursiva para integrar la reflexión ética en el proceso de toma de decisiones.
Las herramientas informáticas conocidas como CDSS (Clinical Decision Support Systems) analizan información clínica y proporcionan a los profesionales sanitarios datos, predicciones o recomendaciones. Su integración en la práctica médica plantea importantes retos éticos, como hasta qué punto seguir una recomendación automatizada, cómo justificar los resultados de un algoritmo o quién asume la responsabilidad final. Los principales desafíos son el respeto a la autonomía, evitar la deshumanización y la dilución de la responsabilidad.
Según Félix Lozano, investigador de INGENIO y autor del trabajo, la ética discursiva sugiere que las normas que afectan a las personas deben poder justificarse racionalmente mediante el diálogo y la participación de los afectados. Aplicado al ámbito clínico, este enfoque permitiría que las recomendaciones generadas por la IA fueran comprendidas, cuestionadas y valoradas en un proceso de deliberación humana.
La reflexión ética debe estar presente desde el diseño y desarrollo de los sistemas de IA y mantenerse durante su aplicación. En este proceso, deberían participar no solo los desarrolladores de software, sino también profesionales sanitarios, expertos en ética y los pacientes. Lozano afirma que la IA en decisiones clínicas no debe valorarse solo por su precisión, sino también por su capacidad para preservar la autonomía y permitir la comprensión y el cuestionamiento de las recomendaciones.
Para que los sistemas de apoyo a las decisiones clínicas sean éticos, deben funcionar como herramientas que faciliten la deliberación y aporten información relevante, sin sustituir el juicio de los implicados. Sus recomendaciones deben ser comprensibles y trazables para ser evaluadas por los profesionales sanitarios. De esta manera, la responsabilidad de las decisiones recaería en los profesionales, preservando al mismo tiempo la autonomía informada de los pacientes.
Para avanzar hacia este modelo, el estudio señala la necesidad de incorporar la reflexión ética durante todo el desarrollo y aplicación de estas tecnologías. Esto requiere un trabajo interdisciplinario entre filosofía moral, ingeniería de datos y políticas públicas. La investigación ha contado con el apoyo de la Conselleria de Cultura, Educación y Ciencia de la Generalitat Valenciana.
