Saltar al contenido

El médico, la máquina y la responsabilidad

9 min de lectura · 2.004 palabras

Un radiólogo abre el estudio, mira la imagen y antes de empezar a leerla ve un número. El sistema priorizó ese caso como urgente y sugiere un hallazgo. La lectura sigue su curso, pero ya no es la misma: el ojo busca lo que el número señaló.

Esa escena se repite hoy en miles de servicios de imagen. La pregunta interesante no es si el modelo acierta. Es qué pasa con el criterio de la persona que lo consulta cuando ese modelo se vuelve rutina.

Un radiólogo, un modelo y una sugerencia

La adopción de inteligencia artificial en radiología avanzó más rápido que el estudio de sus efectos sobre quien la usa. El propio campo lo reconoce así: los servicios incorporan herramientas para priorizar listas de trabajo, cuantificar hallazgos y apoyar la redacción del informe, mientras la evidencia sobre lo que ocurre con la pericia del lector es mucho más escasa.[1]

Hay una razón para esa asimetría. Un modelo se puede evaluar con un conjunto de casos y una métrica. El criterio de una persona no. Requiere seguimiento en el tiempo, con y sin la herramienta, y eso es caro, lento y poco atractivo como objeto de estudio.

Sin embargo, la pregunta ya cambió. No es si la herramienta funciona en una prueba. Es qué pasa con el juicio clínico cuando su uso se vuelve costumbre.

Qué dicen los estudios sobre el sesgo de automatización

Dato verificado La revista Radiology: Artificial Intelligence publicó en octubre de 2026 un análisis de los dos riesgos que acompañan esta transición.[1] Los define con precisión:

  • Sesgo de automatización: la tendencia a seguir la sugerencia del sistema sin examinarla lo suficiente.
  • Pérdida de destreza: el desgaste de la capacidad perceptiva e interpretativa por falta de uso, que se hace visible sobre todo cuando el apoyo automático desaparece.

El trabajo reporta tres observaciones que sostienen la discusión. Un resultado incorrecto del sistema degrada la precisión del lector, sin importar su experiencia. El beneficio de la ayuda varía de forma impredecible entre lectores y entre tareas. Y el desempeño cae después de retirar el apoyo. Ninguno de los dos riesgos ha sido estudiado de forma longitudinal en radiología.[1]

La segunda fuente no viene de la imagen sino de un procedimiento. En mayo de 2026 se encuestó a 118 especialistas en neumología intervencionista de diez países y cinco continentes, expertos con práctica activa.[2] Los resultados ordenan el problema con números:

Afirmación Acuerdo Qué mide
El sistema aporta valor clínico alto 87 % Expectativa positiva sobre la herramienta
Preocupa perder destreza en el procedimiento 73 % Riesgo percibido sobre la propia pericia
El sistema puede frenar el desarrollo de nuevas habilidades 83 % Riesgo sobre quienes están aprendiendo
Conocía el concepto de sesgo de automatización 38 % Familiaridad previa con el fenómeno
Lo considera clínicamente relevante tras una definición 81 % Reconocimiento después de explicarlo

Hay una brecha de 43 puntos entre quienes conocían el concepto y quienes lo consideraron relevante una vez explicado. Ese hueco es informativo: el fenómeno no se rechaza, simplemente no se nombra. Y un riesgo que no tiene nombre difícilmente se vigila.

Riesgos percibidos por 118 especialistas Barras de acuerdo: 87, 83, 73 y 38 por ciento. Acuerdo declarado · n = 118 · escala 1 a 5 valora el aporteteme frenar aprendizaje teme perder destrezaconocía el sesgo 87 %83 % 73 %38 % escala: 5 px por punto porcentual
Respuestas de 118 neumólogos intervencionistas de diez países. La barra angosta es la familiaridad previa con el sesgo de automatización: 38 %.

Hipótesis Si el concepto es poco conocido entre especialistas que ya usan estas herramientas, es razonable esperar que sea todavía menos conocido entre quienes las usan sin formación específica. La encuesta no mide eso, así que queda como conjetura razonable y no como dato.

De la imagen al informe: dónde se pierde el juicio

La degradación de la pericia no ocurre de una sola manera. La literatura reciente distingue tres formas, y la diferencia importa porque cada una pide una respuesta distinta.[3]

Forma A quién afecta Cómo se manifiesta
Pérdida de destreza A quien ya tenía la habilidad El desempeño cae cuando se retira el apoyo
Nunca-destreza A quien está formándose La habilidad no se desarrolla porque se delega antes de adquirirla
Mal-destreza A cualquiera que use el sistema Se interioriza un error del modelo como práctica correcta

Las tres son distintas. La primera es reversible con práctica. La segunda es la más grave, porque no hay nada que recuperar: la competencia nunca llegó a formarse. Y la tercera es la más silenciosa, porque el resultado se ve bien y la práctica se consolida mal.

Reflexión personal En medicina, la formación se construye en la repetición deliberada del juicio propio. Si durante esos años el juicio se terceriza, lo que se pierde no es un hábito: es la materia prima con la que se construye la pericia. Un residente que siempre leyó con una sugerencia al lado aprendió a validar, no a interpretar.

Epicteto: la impresión y el juicio

El vocabulario para describir lo que ocurre ya existía hace dos mil años. Epicteto abre su Enquiridión con una distinción tajante: unas cosas dependen de nosotros y otras no. Y entre las primeras coloca precisamente el juicio, el deseo y la aversión.[4]

Más adelante formula la frase que describe el sesgo de automatización con una economía que ningún artículo científico ha igualado:

Los hombres no se perturban por las cosas, sino por las opiniones que tienen de ellas.

Epicteto, Enquiridión, V

La sugerencia del sistema es una cosa. Lo que el clínico hace con ella es una opinión: la evaluación de si ese hallazgo es plausible, si encaja con el cuadro, si merece ser el eje del informe. Confundir ambas es el error que la evidencia describe con datos.

Marco Aurelio añade el método, en una instrucción que se lee como un protocolo de lectura: examinar con precisión cada representación que se presenta, para que nada se cuele antes de haber comprendido su naturaleza.[5] Y en el Enquiridión, la imagen del viaje: quien baja a tierra a buscar agua debe tener el pensamiento en la nave, atento por si llama el capitán.[4]

Reflexión personal Esa metáfora describe la atención clínica mejor que casi cualquier tratado: se puede explorar el detalle, pero sin perder el barco de vista. La herramienta invita a quedarse en la orilla.

El error que no se nota cuando la máquina acierta

La conversación pública sobre IA en medicina se concentra en el error del sistema. La evidencia sugiere que el problema más frecuente es el otro: el acierto que desactiva la vigilancia.

Un modelo que acierta casi siempre entrena a la persona a confiar. Cuando falla, el lector ya no está en modo de verificación, porque la estadística de su experiencia diaria le dice que no hace falta. Ese es el mecanismo del sesgo de automatización, y no requiere un sistema malo: requiere uno bueno casi siempre.

La propuesta del artículo de Radiology: Artificial Intelligence es la parte más útil de toda la literatura revisada: no aplicar un flujo único, sino enrutar los casos según la confianza calibrada del modelo.[1] Tres canales:

Triage por confianza en tres canales Tres flujos según la confianza calibrada del modelo. caso nuevo confianza calibrada del modelo CONFIANZA BAJA Lectura independiente el resultado se oculta CONFIANZA MEDIA Se muestra con incertidumbre y una lista de verificación CONFIANZA ALTA Se muestra con auditoría ciega una fracción de casos revisada cuatro principios: el clínico decide · la incertidumbre es visible · fricción donde importa · el sistema se audita
Modelo de triage por confianza: el umbral de cada canal se pondera por daño clínico posible, no solo por probabilidad de error.

La segunda contradicción es más incómoda: la fricción, que en casi toda interface se considera un defecto, aquí es una herramienta terapéutica. Retrasar la aparición del resultado, pedir una lectura propia primero, obligar a justificar el acuerdo. Todo eso empeora la sensación de fluidez y mejora la calidad del juicio.

Y la tercera: no existe todavía evidencia longitudinal que demuestre que estas contramedidas funcionan. El artículo las propone como agenda de investigación, no como solución probada. Quien afirme lo contrario va por delante de los datos.[1]

Hablar antes de ver la respuesta

La propuesta más concreta de la literatura reciente no viene de la radiología sino de la documentación clínica. Se llama speak before the reveal: verbalizar los pasos cognitivos críticos —la síntesis y el plan— antes de que el sistema genere su texto.[3]

El mecanismo es sencillo y verificable: si el razonamiento queda dicho antes de ver la salida, el sesgo de confirmación tiene menos margen para actuar hacia atrás. Y quien no puede verbalizar el razonamiento descubre, en ese mismo acto, que su juicio no era tan propio como creía.

Para quien no usa un sistema de dictado, los mismos principios se traducen así:

  1. Escribir el hallazgo propio antes de abrir la sugerencia. Una línea basta.
  2. Ver la incertidumbre, no solo la conclusión. Si el sistema no informa su confianza, la sugerencia se lee como certeza aunque no lo sea.
  3. Hacer lectura sin apoyo de forma periódica. La destreza se conserva usándola; no se conserva recordándola.
  4. Auditar una fracción de casos al azar. Sin sorteo, se revisan los casos sospechosos, y esos son justamente los que ya generaban duda.
  5. Registrar el desacuerdo. Anotar cuándo el clínico no siguió al sistema produce el material con el que se mide el sesgo de automatización.

Quién responde cuando el informe está mal

La revisión sobre implicaciones médico-legales responde la pregunta que suele quedar implícita. Los principios de negligencia médica y de consentimiento informado se aplican a la imagen asistida sin excepciones y sin traslados automáticos de culpa: hay responsabilidades distintas para el radiólogo, para la institución y para el fabricante.[6]

La responsabilidad médica no cambia de titular por el uso de una herramienta, y ese es el punto donde el debate se vuelve práctico: la cadena de responsabilidad debe quedar escrita antes del primer caso, no después del primero que salga mal.

El artículo propone dos marcos prácticos, INFORMED y RECORDS, que ordenan validación, supervisión humana, documentación y auditoría. La idea de fondo es que la adopción sea defendible: que exista un registro de qué se usó, con qué versión, qué se revisó y qué se decidió.[6]

La herramienta puede proponer un hallazgo. La firma sigue siendo de quien lo escribe.

El punto donde tecnología y responsabilidad se separan

Queda la pregunta abierta, y no tiene solución técnica: si el juicio clínico se forma en la práctica no asistida, ¿cuánta práctica no asistida necesita una generación que creció con la sugerencia al lado?

Esta entrada es la tercera de una serie sobre autonomía y decisión. La primera mira la dependencia de los sistemas; la segunda, la dependencia del conocimiento. Esta mira la dependencia del juicio profesional.

Fuentes

  1. Karunanayake N, Schefflein J, Zhao B, Schwartz LH. Automation Bias and Deskilling in Radiology AI: A Confidence-stratified Triage Model for Workflow Integration. Radiology: Artificial Intelligence. 28 de octubre de 2026. doi:10.1148/ryai.260591
  2. Marchi G, Corbetta L. Artificial Intelligence-Induced Deskilling in Interventional Pulmonology: An International Cross-Sectional Survey on Risk Perception and Mitigation Strategies. Advances in Respiratory Medicine. 20 de julio de 2026. doi:10.3390/arm94040048
  3. Jurblum M. Speak before the reveal: a practical method to protect clinical reasoning from artificial intelligence scribe deskilling, never-skilling, and mis-skilling. Journal of the American Medical Informatics Association. 12 de noviembre de 2026. doi:10.1093/jamia/ocag191
  4. Epicteto. Enquiridión. gutenberg.org
  5. Marco Aurelio. Meditaciones, III.29. gutenberg.org
  6. Siddi Ganie I, Ganie NS, Gibson J, Raniga S. Navigating the artificial intelligence revolution in radiology: a practical guide to medical-legal and ethical imperatives for the practising radiologist. Clinical Radiology. 16 de enero de 2026. doi:10.1016/j.crad.2026.107254

¿Te sirvió esta entrada?

Puedes apoyar con una donación voluntaria. Sin publicidad, sin muros.

Donar con PayPal

También: más formas de apoyar

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.