¿Cuál es el lugar del ser humano en el circuito de la inteligencia artificial en radiología? Un nuevo artículo publicado en RadioGraphics, revista de la Sociedad Norteamericana de Radiología (RSNA), sostiene que la respuesta está a mitad de camino: el modelo human-on-the-loop (HOTL), en el que los radiólogos dejan de revisar cada resultado individual de la IA y pasan a vigilar tendencias de desempeño, recibiendo alertas cuando el comportamiento del algoritmo se aparta de lo esperado. Si el rendimiento cae, la lectura de los estudios vuelve de inmediato a manos de los médicos.
La propuesta, firmada por un grupo internacional de investigadores, intenta resolver un dilema que acompaña a la radiología desde que los primeros algoritmos llegaron a la práctica clínica: entre escépticos que exigen revisión humana de cada resultado y entusiastas dispuestos a aceptar lo que dice la máquina sin cuestionarlo, ¿qué grado de supervisión protege realmente al paciente sin anular las ganancias de eficiencia que promete la tecnología?
Consenso sobre monitorear, dudas sobre cuánto
Hoy existe un consenso sólido en que la IA debe ser monitoreada después de su implementación. La FDA, agencia regulatoria de Estados Unidos, y varios organismos equivalentes en el mundo exigen que las instituciones den seguimiento al desempeño de los algoritmos, mantengan supervisión humana y cuenten con un plan de acción correctiva listo para activarse. Estudios previos también muestran que los mecanismos de supervisión figuran entre las principales preocupaciones de los radiólogos a la hora de adoptar estas herramientas en la rutina.
Lo que sigue abierto es el rigor adecuado de esa vigilancia. Revisar manualmente cada resultado consume justamente el tiempo que la tecnología prometía ahorrar; confiar ciegamente en la máquina expone a los pacientes a errores silenciosos. En ese vacío, el artículo de RadioGraphics posiciona al HOTL como punto de equilibrio para los departamentos de radiología, conciliando seguridad y confiabilidad con eficiencia operativa.
Cómo funciona el modelo human-on-the-loop
En la literatura sobre automatización se suele distinguir el human-in-the-loop — donde una persona valida cada decisión del sistema — del human-on-the-loop, donde el humano supervisa el funcionamiento general e interviene cuando es necesario. Aplicado a la radiología, el HOTL significa que los radiólogos no necesitan verificar todos los resultados de la IA, pero el servicio tampoco los acepta sin más.
El mecanismo central es la alerta: el sistema de monitoreo avisa al equipo cuando detecta drift (deriva de desempeño) o problemas de exactitud. Si se constata una caída, el trabajo de lectura de esos estudios vuelve a los radiólogos hasta que el problema se comprenda y se corrija. El foco se desplaza, por lo tanto, del resultado individual hacia la tendencia — un cambio de paradigma en la forma de fiscalizar algoritmos clínicos en producción.
Por qué los algoritmos aprobados se degradan en la práctica
El modelo parte de un reconocimiento importante: incluso los algoritmos mejor diseñados son sensibles a los cambios en los datos de entrada. Una actualización del escáner, un ajuste en el flujo de trabajo o una variación en el perfil de los pacientes atendidos puede dejar fuera de sintonía con la realidad clínica a una IA que tuvo un desempeño impecable en las pruebas de entrenamiento y en la validación regulatoria.
Este fenómeno se suma a otras vulnerabilidades ya documentadas de los modelos de imagen, como la dificultad de médicos y algoritmos frente a imágenes sintéticas generadas por IA capaces de engañar a radiólogos, y refuerza una de las tendencias centrales de la radiología en el primer semestre de 2026: la discusión sobre autonomía y supervisión dejó el plano teórico y ahora define cómo los productos llegan al mercado y se mantienen en él.
Fatiga de alertas y subgrupos invisibles
Los propios autores reconocen que el HOTL plantea desafíos. El primero es la fatiga de alertas: las notificaciones excesivas desensibilizan a los equipos de monitoreo. Por eso es fundamental no calibrar el umbral de activación demasiado bajo, ni tratar desviaciones menores como urgencias — de lo contrario, el aviso realmente importante puede perderse en medio del ruido.
El segundo riesgo es más sutil: las caídas de desempeño en subgrupos específicos de pacientes pueden pasar inadvertidas si las métricas globales se mantienen estables. Un algoritmo puede conservar una exactitud promedio excelente mientras falla de forma sistemática en una población particular — algo que solo sale a la luz cuando el monitoreo estratifica los resultados en lugar de mirar únicamente el promedio general.
Qué cambia para los servicios de imagen
Para los departamentos de radiología que ya usan o planean adoptar IA, el mensaje práctico es estructurar cuanto antes un programa formal de monitoreo posimplementación. Esto incluye definir métricas de desempeño, calibrar umbrales de alerta realistas, estratificar resultados por subgrupos relevantes y registrar cambios de equipamiento, protocolo y perfil de pacientes que puedan afectar al modelo — además de mantener un plan claro para devolver la lectura a los radiólogos cuando sea necesario.
En América Latina, donde agencias como la ANVISA brasileña ya regulan el software con finalidad médica como dispositivo y los demás reguladores de la región siguen de cerca las referencias de la FDA, la llegada de herramientas cada vez más autónomas — como las IA autorizadas por la FDA para producir la primera lectura de radiografías — convierte la gobernanza posimplementación en un diferencial de seguridad y credibilidad para clínicas y hospitales. Físicos médicos y equipos de TI tienden a asumir un papel central en ese proceso, junto a los radiólogos, documentando el desempeño de los algoritmos con el mismo rigor aplicado al control de calidad de los equipos.
Un debate que sigue abierto
La conclusión del artículo es pragmática: el plan ideal de supervisión protege al paciente sin volver la tecnología más problemática de lo que vale. Al enfocarse en tendencias en lugar de resultados individuales, el modelo HOTL descrito en RadioGraphics parece cumplir esos requisitos — pero, como observa The Imaging Wire, el debate sobre la mejor manera de supervisar la IA en radiología seguirá vivo en los próximos años.
Fuente: The Imaging Wire
