Del algoritmo al paciente: el debate ético sobre la inteligencia artificial

Introducción

La inteligencia artificial (IA) está transformando rápidamente la atención médica, ofreciendo oportunidades sin precedentes para mejorar el diagnóstico, el tratamiento y la eficiencia del sistema. Sin embargo, a medida que estos algoritmos pasan de los laboratorios de investigación a la atención del paciente, los profesionales sanitarios españoles se enfrentan a complejos dilemas éticos que exigen una cuidadosa consideración y una implementación responsable.

La promesa de la IA en la atención médica

El potencial de la IA en la medicina es enorme. Puede mejorar la precisión diagnóstica, permitir planes de tratamiento personalizados, agilizar las tareas administrativas y optimizar la asignación de recursos. En campos como la radiología, la oncología y la cardiología, las herramientas basadas en IA han demostrado su capacidad para detectar patrones y anomalías que podrían eludir incluso a los médicos con experiencia.¹ Además, la IA puede apoyar la telemedicina, la traducción de idiomas y la participación del paciente, haciendo que la atención médica sea más accesible y eficiente.¹

El gobierno español reconoce estas oportunidades y está invirtiendo activamente en la innovación en IA. A través de iniciativas como el Proyecto Estratégico para la Recuperación y la Transformación Económica (PERTE), se destinan importantes fondos a la integración de la IA en el Sistema Nacional de Salud, con el objetivo de mejorar la prevención, el diagnóstico y el tratamiento para todos los pacientes.²

Riesgos éticos y sociales

A pesar de estos beneficios, la integración de la IA en la atención médica no está exenta de riesgos. Una de las principales preocupaciones es el potencial sesgo en los algoritmos de IA. Si se entrenan con datos no representativos o erróneos, los sistemas de IA pueden perpetuar o incluso exacerbar las desigualdades sanitarias existentes, lo que resulta en resultados injustos o inseguros para ciertos grupos de pacientes. 3 Esto es particularmente preocupante en una sociedad diversa, donde la atención equitativa es un derecho fundamental.

La transparencia es otro desafío. Muchos sistemas de IA funcionan como "cajas negras", lo que dificulta que médicos y pacientes comprendan cómo se toman las decisiones. Esta falta de explicabilidad puede socavar la confianza y obstaculizar el consentimiento informado, un pilar fundamental de la práctica médica ética.³

La privacidad del paciente y la seguridad de los datos también están en juego. La IA depende de grandes cantidades de datos sanitarios sensibles, lo que genera inquietudes sobre la confidencialidad, las filtraciones de datos y el uso no autorizado.³ El riesgo de piratería o uso indebido de la información personal debe gestionarse cuidadosamente para mantener la confianza pública.

Finalmente, existe el riesgo de deshumanización. Si bien la IA puede procesar información rápidamente, carece de empatía, compasión y juicio moral, cualidades esenciales para la relación terapéutica entre profesionales sanitarios y pacientes.⁴

Respuestas regulatorias y políticas

Para abordar estos desafíos, el gobierno español ha presentado un proyecto de ley que regula la IA, en consonancia con la Ley de IA de la Unión Europea. Esta legislación enfatiza los usos éticos, inclusivos y beneficiosos de la IA, prohibiendo las prácticas manipuladoras o discriminatorias y exigiendo una supervisión estricta de los sistemas de alto riesgo, como los utilizados en la atención médica.⁵ La ley también introduce entornos de prueba controlados ("sandboxes") para garantizar la seguridad de las innovaciones antes de su implementación generalizada.⁶

Hacia una IA responsable en la atención médica

Un enfoque equilibrado es esencial. Los expertos recomiendan varias medidas para aprovechar al máximo el potencial de la IA y reducir al mínimo los posibles riesgos³:
 

• Monitoreo y evaluación continuos de los sistemas de IA para garantizar la efectividad y la equidad en el mundo real.
   
• Transparencia y trazabilidad en el diseño de algoritmos, que permiten a los profesionales sanitarios y a los pacientes comprender y cuestionar las decisiones basadas en la IA.
   
• Protocolos sólidos de protección de datos para salvaguardar la privacidad del paciente.
   
• Colaboración interdisciplinaria entre profesionales sanitarios, expertos en IA, especialistas en ética y pacientes en el desarrollo y la supervisión de herramientas de IA.
   
• Formación continua para que los profesionales sanitarios integren la IA en la práctica de forma eficaz y ética.
   

La IA tiene un potencial transformador para la sanidad española, prometiendo mejores resultados y sistemas más eficientes. Sin embargo, su implementación debe regirse por principios éticos sólidos, una regulación rigurosa y un compromiso con la atención centrada en el paciente. Al adoptar la innovación de forma responsable, los profesionales sanitarios pueden garantizar que la IA sea una herramienta para el progreso, una herramienta que potencie, en lugar de comprometer, los valores fundamentales de la medicina.

Referencias

1. Chustecki M. Benefits and Risks of AI in Health Care: Narrative Review. Interact J Med Res. 2024;13:e53616.
2. Strategic project for economic recovery and transformation_New language economy. Accessed from https://stip.oecd.org/stip/interactive-dashboards/policy-initiatives/2023%2Fdata%2FpolicyInitiatives%2F99997513 accessed on 15 June 2025.
3. European Parliamentary Research Service. Artificial intelligence in healthcare: Applications, risks, and ethical and societal impacts. European Parliament; 2022. Accessed from https://www.europarl.europa.eu/RegData/etudes/STUD/2022/729512/EPRS_STU(2022)729512_EN.pdf accessed on 15 June 2025.
4. Khanam M, Akther S, Mizan I, et al. The Potential of Artificial Intelligence in Unveiling Healthcare's Future. Cureus. 2024;16(10):e71625.
5. High-level summary of the AI Act. EU Artificial Intelligence Act. Accessed from https://artificialintelligenceact.eu/high-level-summary/ accessed on 15 June 2025.
6. AI Regulatory Sandbox Approaches: EU Member State Overview. Accessed from https://artificialintelligenceact.eu/ai-regulatory-sandbox-approaches-eu-member-state-overview/ accessed on 15 June 2025.

DOC.5164.052025