Cómo evaluar copilotos clínicos
Criterios prácticos para valorar copilotos clínicos antes de incorporarlos a la práctica asistencial
Antes de empezar: la IA clínica ya no se evalúa solo por novedad
La inteligencia artificial ya forma parte del ecosistema sanitario. En algunos casos aparece como software médico regulado, integrado en circuitos diagnósticos o sistemas hospitalarios. En otros, llega de una forma más cotidiana: un asistente que resume una consulta, una herramienta que busca evidencia, un modelo conversacional que ayuda a estructurar una explicación para el paciente o un sistema que genera un borrador de nota clínica.
El reto para el médico ya no es decidir si la IA puede resultar útil. En muchas tareas puede serlo. El reto real es saber cuándo una herramienta aporta valor, cuándo debe utilizarse con cautela y cuándo puede introducir riesgos si se interpreta como una fuente clínica fiable sin suficiente revisión.
Por eso, la pregunta no debería ser “qué IA está de moda”, sino “qué tarea quiero apoyar, qué nivel de riesgo implica y qué evidencias tengo para confiar en esta herramienta”. Una IA que ayuda a ordenar ideas no exige el mismo nivel de validación que una IA que sugiere una conducta clínica, prioriza pacientes o influye en un diagnóstico.
Evaluar un copiloto clínico no es una tarea puramente tecnológica. Es una competencia profesional. El médico no necesita convertirse en ingeniero, pero sí debe poder distinguir entre utilidad operativa, evidencia clínica, seguridad, aplicabilidad y riesgo.
Clasifica primero la herramienta
No todas las aplicaciones que utilizan IA para médicos son iguales. Antes de evaluarlas, conviene identificar qué tipo de tarea realizan y qué consecuencias podría tener un error.
| Tipo de herramienta | Ejemplos orientativos | Valor potencial | Punto crítico de evaluación |
| Buscador de evidencia médica | OpenEvidence; buscadores clínicos con citas y fuentes verificables | Acelera la localización y síntesis de literatura, guías o respuestas clínicas. | Comprobar que las citas existen, están actualizadas y responden exactamente a la pregunta clínica. |
| Copiloto de documentación clínica | Microsoft Dragon Copilot; Abridge; Nabla u otros | Puede generar notas, resúmenes, cartas o borradores y reducir carga administrativa. | Revisar errores de transcripción, omisiones, consentimiento, integración con la historia clínica y responsabilidad final. |
| Modelo generalista de IA | ChatGPT; Claude; Gemini u otros modelos conversacionales | Útil para estructurar ideas, explicar conceptos, preparar borradores o material docente sin datos identificables. | No asumir exactitud clínica. Verificar fuentes y evitar datos personales en entornos no autorizados. |
| Apoyo a decisión clínica o predicción | Módulos de CDS; alertas integradas en EHR; algoritmos de riesgo o imagen médica | Puede ayudar a priorizar, detectar patrones o apoyar decisiones complejas. | Exige validación externa, rendimiento por subgrupos, gestión de sesgos y supervisión humana clara. |
Un buscador de evidencia puede ser útil para localizar literatura o guías. Un copiloto de documentación puede aliviar carga administrativa. Un modelo generalista puede ayudar a redactar o sintetizar. Una herramienta de apoyo a decisión puede influir en la conducta clínica. Cada categoría tiene un nivel de riesgo distinto y, por tanto, requiere una evaluación distinta.
La regla práctica es clara: cuanto más directa sea la influencia sobre diagnóstico, tratamiento, triaje, priorización o seguimiento, mayor debe ser el nivel de evidencia, trazabilidad y gobernanza exigido.
No confundas utilidad con fiabilidad
Una herramienta puede ser útil y, al mismo tiempo, no ser suficientemente fiable para ciertos usos. Esta diferencia es clave.
La utilidad se refiere a la eficiencia: si ahorra tiempo, facilita una tarea, mejora la organización de la información o reduce carga documental. La fiabilidad se refiere a otra dimensión: si la información es correcta, verificable, actualizada, aplicable y segura.
En IA generativa, esta diferencia es especialmente importante. Los modelos conversacionales pueden producir respuestas fluidas y aparentemente razonables incluso cuando el contenido es incompleto, está desactualizado o no se ajusta al caso concreto. El riesgo no está solo en el error evidente, sino en el error plausible: una recomendación que “suena médica” puede invitar a confiar demasiado.
Por eso, no basta con probar una herramienta y decidir si “parece buena”. Hay que preguntar qué datos usa, qué fuentes cita, qué limitaciones reconoce, en qué población se ha validado, qué grado de supervisión requiere y qué consecuencias tendría un error.
Siete criterios para evaluar un copiloto clínico
1. Uso previsto
La primera pregunta es: ¿para qué se supone que sirve esta herramienta? Una herramienta bien planteada debe explicar con claridad si está diseñada para documentación, búsqueda de evidencia, educación, gestión administrativa, apoyo a decisión o uso diagnóstico. También debe aclarar qué no hace.
Si el uso previsto es ambiguo, la evaluación se vuelve más difícil. No es lo mismo generar un borrador de informe que sugerir una conducta terapéutica. Tampoco es lo mismo resumir una conversación que priorizar un paciente.
Red flag: la herramienta promete “resolver casos clínicos”, “diagnosticar” o “recomendar tratamientos” sin explicar su validación, sus límites o su marco regulatorio.
2. Evidencia clínica
El segundo criterio es la evidencia. ¿La herramienta ha sido evaluada? ¿En qué contexto? ¿Con qué población? ¿Contra qué comparador? ¿Con qué métricas?
En IA médica, las métricas técnicas no siempre bastan. Una buena precisión en un entorno controlado no garantiza utilidad en la consulta real. El rendimiento puede variar por edad, sexo, idioma, comorbilidad, nivel socioeconómico, especialidad, tipo de centro o calidad de los datos introducidos.
Para herramientas de bajo riesgo puede bastar con evidencia de usabilidad, reducción de carga o satisfacción profesional. Para herramientas que influyen en decisiones clínicas, debería existir validación externa, evaluación independiente, análisis por subgrupos y datos de impacto clínico cuando proceda.
Red flag: la herramienta presume de porcentajes altos de precisión sin explicar cómo se calcularon, en qué población, con qué estándar de referencia o si los resultados han sido revisados externamente.
3. Trazabilidad
Una herramienta clínica no debería limitarse a entregar una respuesta; debería permitir entender de dónde sale esa respuesta.
En buscadores de evidencia, esto implica citas claras, enlaces a fuentes originales, fecha de publicación y tipo de evidencia. En documentación clínica, implica poder revisar qué parte de la conversación o del registro generó cada fragmento de la nota. La trazabilidad no elimina el riesgo, pero permite auditarlo. Sin trazabilidad, el médico queda ante una respuesta cerrada, difícil de comprobar y potencialmente problemática.
Red flag: la IA ofrece recomendaciones clínicas sin fuentes, con referencias vagas o con citas que no pueden verificarse.
4. Sesgos y aplicabilidad
Una herramienta puede funcionar bien en promedio y fallar en grupos concretos. Por eso, la evaluación debe preguntar si se ha probado en poblaciones comparables a la práctica real.
Este punto es especialmente relevante cuando la herramienta se ha desarrollado con datos de otro país, otro idioma, otro sistema sanitario o una población poco representativa. Una respuesta basada en guías estadounidenses puede no adaptarse a protocolos locales europeos. Un sistema entrenado con documentación clínica en inglés puede comportarse de forma distinta ante textos en español. Un algoritmo predictivo puede reproducir desigualdades si aprende de datos históricos sesgados.
Red flag: no se informa sobre datos de entrenamiento, población de validación, rendimiento por subgrupos o limitaciones de aplicabilidad.
5. Seguridad y reconocimiento de límites
Una IA clínica fiable no debería responder siempre con seguridad. Debe reconocer incertidumbre, pedir contexto cuando falta información y advertir cuándo la pregunta excede su uso previsto.
En medicina, la incertidumbre no es una debilidad; forma parte del razonamiento clínico. Una herramienta que nunca duda puede ser menos segura que una que explicita sus límites. El médico debe desconfiar de respuestas categóricas cuando el caso requiere anamnesis, exploración, pruebas complementarias o juicio contextual.
Red flag: la herramienta ofrece recomendaciones firmes ante preguntas incompletas, no menciona límites y no sugiere verificar con guías, protocolos locales o criterio clínico.
6. Privacidad y gobernanza de datos
La privacidad no es un detalle técnico. Es un requisito básico. Antes de introducir información en una herramienta de IA, el profesional debe saber si la plataforma está autorizada por su organización, qué datos pueden introducirse, dónde se procesan, si se almacenan, si se utilizan para entrenamiento y quién tiene acceso.
La regla prudente es no introducir datos personales, identificables o potencialmente reidentificables en herramientas no aprobadas. Esto incluye nombres, fechas exactas, números de historia clínica, imágenes, combinaciones raras de datos clínicos o cualquier información que pueda identificar a un paciente directa o indirectamente.
Red flag: la herramienta no explica su política de datos, no aclara si utiliza información para entrenamiento o se emplea fuera de los sistemas aprobados por la organización.
7. Integración real en el flujo clínico
Una herramienta puede ser técnicamente interesante y poco útil en la práctica. Si obliga a duplicar tareas, copiar y pegar información, salir de la historia clínica o revisar más de lo que ahorra, puede aumentar la carga en lugar de reducirla.
La utilidad real debe medirse en el flujo asistencial. ¿Reduce tiempo documental? ¿Mejora la calidad de la nota? ¿Facilita continuidad asistencial? ¿Disminuye omisiones? ¿Ayuda a preparar una consulta? ¿O simplemente añade otra pantalla?
Red flag: la herramienta promete eficiencia, pero en la práctica genera más pasos, más revisión o más incertidumbre.
Ejemplos de herramientas IA: fortalezas y límites
Las herramientas concretas deben evaluarse siempre según su versión, país, configuración, integración institucional y uso previsto. Aun así, resulta útil comparar algunas categorías habituales.
OpenEvidence y buscadores de evidencia
OpenEvidence puede ser interesante como buscador de evidencia clínica porque orienta la respuesta hacia fuentes médicas y literatura citada. Su fortaleza está en acelerar la búsqueda y síntesis de información. Su límite es que el médico debe comprobar la actualidad de las fuentes, la calidad de la evidencia y la aplicabilidad al contexto local. Una cita no convierte automáticamente una respuesta en una recomendación clínica.
Dragon Copilot, Abridge y documentación clínica
Microsoft Dragon Copilot se sitúa en el ámbito del flujo clínico y la documentación: generación de notas, resúmenes, cartas, borradores y apoyo al trabajo posterior a la consulta. Abridge también se orienta a transformar conversaciones médico-paciente en notas clínicas útiles para el flujo asistencial. Su fortaleza común es reducir carga administrativa y estructurar información. Su límite es que todo borrador clínico debe revisarse: una omisión, una interpretación incorrecta o una frase ambigua pueden tener consecuencias asistenciales o médico-legales.
ChatGPT, Claude, Gemini y modelos generalistas
Los modelos generalistas pueden ser útiles para tareas de bajo riesgo: ordenar ideas, preparar esquemas docentes, mejorar la claridad de un texto, generar preguntas para una sesión clínica o transformar un borrador en lenguaje más comprensible. Su límite es claro: no deben utilizarse como fuente clínica final ni recibir datos identificables de pacientes en entornos no autorizados. La fluidez de la respuesta no sustituye la trazabilidad ni la validación.
Sistemas de apoyo a decisión clínica
Los sistemas integrados en historia electrónica, triaje, predicción de riesgo o imagen médica requieren un nivel de evaluación superior. Aquí no basta con que el sistema sea cómodo o convincente. Debe demostrar rendimiento, seguridad, validación, impacto y control de sesgos. Además, debe existir una gobernanza clara: quién lo monitoriza, cómo se reportan errores, cuándo se actualiza y qué ocurre si el profesional no sigue la recomendación.
Caso práctico: una respuesta convincente que necesita revisión
Imaginemos una consulta sencilla a una IA: “Paciente de 58 años con hipertensión no controlada, en tratamiento con amlodipino 5 mg/día. PA promedio 152/94 mmHg. Sin diabetes ni enfermedad renal conocida. ¿Qué ajustarías y por qué?”.
La IA responde: “Recomendaría aumentar amlodipino a 10 mg/día y, si la presión arterial sigue por encima de objetivo, añadir un IECA o un ARA-II. Esta estrategia está respaldada por guías internacionales de hipertensión. También debe revisarse adherencia, estilo de vida y causas secundarias si persiste el mal control”.
La respuesta parece razonable. Está bien escrita, incluye una conducta posible y menciona adherencia. Pero el médico no debería quedarse ahí. Debe revisar varias preguntas: ¿cita fuentes concretas?, ¿indica fecha o guía?, ¿incluye información suficiente del paciente?, ¿reconoce límites?, ¿puede generar una acción segura?
No basta con decir “guías internacionales”. Conviene saber qué guía, de qué año, en qué población y con qué recomendación específica. También faltan datos relevantes: medición domiciliaria o ambulatoria, adherencia, efectos adversos, otros fármacos, riesgo cardiovascular, función renal actual, potasio, daño de órgano diana y preferencias del paciente.
Este ejemplo muestra el punto central: una respuesta puede ser útil y aun así necesitar revisión. El criterio clínico no desaparece. Se desplaza hacia una nueva tarea: evaluar la calidad del resultado generado por la IA.
Green flags y red flags para médicos
Una forma práctica de evaluar una herramienta es usar un semáforo mental.
Indicadores de confianza
- Uso previsto claro.
- Fuentes verificables y actualizadas.
- Validación proporcional al riesgo.
- Reconocimiento explícito de límites.
- Posibilidad de auditar la respuesta.
- Privacidad y gobernanza de datos claras.
- Supervisión humana integrada en el flujo.
Señales de alerta
- Respuestas clínicas sin fuentes.
- Recomendaciones categóricas con datos incompletos.
- Promesas de diagnóstico sin validación.
- Ausencia de fecha de actualización.
- Resultados no auditables.
- Política de datos poco clara.
- Se presenta como sustituto del juicio médico.
La IA exige más criterio, no menos
Los copilotos clínicos pueden aportar valor. Pueden reducir carga administrativa, acelerar la búsqueda de evidencia, mejorar la estructura de la documentación y ayudar a organizar información compleja. Pero su utilidad depende del contexto, del nivel de riesgo y de la capacidad del profesional para revisar críticamente sus resultados.
La IA no elimina la responsabilidad clínica. Tampoco sustituye la lectura crítica, la experiencia, la comunicación con el paciente ni los protocolos locales. Lo que sí cambia es el tipo de competencia que necesita el médico: además de interpretar una prueba o una guía, ahora debe interpretar una respuesta generada por IA.
Evaluar un copiloto clínico no significa rechazar la innovación. Significa usarla con criterio. La pregunta no es si la IA puede responder, sino si esa respuesta es trazable, actual, aplicable, segura y clínicamente útil.
En medicina, confiar nunca debería ser un acto automático. Con la IA, menos todavía.
Checklist final antes de confiar
Si varias respuestas son negativas, la herramienta puede seguir siendo útil en tareas de bajo riesgo, pero no debería utilizarse para decisiones clínicas sin una evaluación más rigurosa.
PC-ES-119229-082026