Qual é o lugar do ser humano no circuito da inteligência artificial em radiologia? Um novo artigo publicado na RadioGraphics, revista da Sociedade Norte-Americana de Radiologia (RSNA), defende que a resposta está no meio do caminho: o modelo human-on-the-loop (HOTL), no qual os radiologistas deixam de revisar cada resultado individual da IA e passam a monitorar tendências de desempenho, recebendo alertas quando o comportamento do algoritmo foge do esperado. Se a performance cair, a leitura dos exames volta imediatamente para as mãos dos médicos.
A proposta, assinada por um grupo internacional de pesquisadores, tenta resolver um impasse que acompanha a radiologia desde que os primeiros algoritmos chegaram à prática clínica: entre céticos que exigem revisão humana de todo output e entusiastas dispostos a aceitar os resultados da máquina sem questionamento, qual grau de supervisão realmente protege o paciente sem anular os ganhos de eficiência prometidos pela tecnologia?
Consenso sobre monitorar, dúvida sobre o quanto
Existe hoje um consenso sólido de que a IA precisa ser monitorada após a implantação. A FDA, agência regulatória dos Estados Unidos, e diversos órgãos equivalentes ao redor do mundo exigem que as instituições acompanhem o desempenho dos algoritmos, mantenham supervisão humana e disponham de um plano de ação corretiva pronto para ser acionado. Estudos anteriores também mostram que os mecanismos de supervisão estão entre as principais preocupações dos radiologistas quando o assunto é adotar essas ferramentas na rotina.
O que permanece em aberto é o rigor adequado dessa vigilância. Revisar manualmente cada resultado consome justamente o tempo que a tecnologia prometia economizar; confiar cegamente na máquina expõe pacientes a erros silenciosos. É nesse vácuo que o artigo da RadioGraphics posiciona o HOTL como ponto de equilíbrio para os departamentos de radiologia, conciliando segurança e confiabilidade com eficiência operacional.
Como funciona o modelo human-on-the-loop
Na literatura de automação, costuma-se distinguir o human-in-the-loop — em que uma pessoa valida cada decisão do sistema — do human-on-the-loop, em que o humano supervisiona o funcionamento geral e intervém quando necessário. Aplicado à radiologia, o HOTL significa que os radiologistas não precisam conferir todos os outputs da IA, mas o serviço tampouco aceita os resultados pelo valor de face.
O mecanismo central é o alerta: o sistema de monitoramento avisa a equipe quando detecta drift (deriva de desempenho) ou problemas de acurácia. Constatada uma queda, o trabalho de leitura daqueles exames reverte aos radiologistas até que o problema seja compreendido e corrigido. O foco, portanto, desloca-se do resultado individual para a tendência — uma mudança de paradigma na forma de fiscalizar algoritmos clínicos em produção.
Por que algoritmos aprovados degradam na prática
O modelo parte de um reconhecimento importante: mesmo os algoritmos mais bem projetados são sensíveis a mudanças nos dados de entrada. Uma atualização de scanner, um ajuste no fluxo de trabalho ou uma alteração no perfil dos pacientes atendidos pode deixar fora de sintonia com a realidade clínica uma IA que teve desempenho impecável nos testes de treinamento e na validação regulatória.
Esse fenômeno se soma a outras vulnerabilidades já documentadas dos modelos de imagem, como a dificuldade de médicos e algoritmos diante de imagens sintéticas geradas por IA capazes de enganar radiologistas, e reforça uma das tendências centrais da radiologia no primeiro semestre de 2026: a discussão sobre autonomia e supervisão deixou o plano teórico e passou a definir como os produtos chegam ao mercado e permanecem nele.
Fadiga de alertas e subgrupos invisíveis
Os próprios autores reconhecem que o HOTL traz desafios. O primeiro é a fadiga de alertas: notificações em excesso dessensibilizam as equipes de monitoramento. Por isso, é fundamental não calibrar o limiar de disparo em nível baixo demais, nem tratar pequenos desvios como urgências — sob pena de o aviso realmente importante passar despercebido no meio do ruído.
O segundo risco é mais sutil: quedas de desempenho em subgrupos específicos de pacientes podem passar despercebidas se as métricas globais permanecerem estáveis. Um algoritmo pode manter acurácia média excelente enquanto falha de forma sistemática em uma população particular — algo que só aparece quando o monitoramento estratifica os resultados em vez de olhar apenas para a média geral.
O que muda para os serviços de imagem
Para departamentos de radiologia que já usam ou planejam adotar IA, o recado prático é estruturar desde já um programa formal de monitoramento pós-implantação. Isso inclui definir métricas de desempenho, calibrar limiares de alerta realistas, estratificar resultados por subgrupos relevantes e registrar mudanças de equipamento, protocolo e perfil de pacientes que possam afetar o modelo — além de manter um plano claro para devolver a leitura aos radiologistas quando necessário.
No Brasil, a Anvisa já enquadra programas de computador com finalidade médica como dispositivos regulados, e a chegada de ferramentas cada vez mais autônomas — como as IAs autorizadas pela FDA a produzir a primeira leitura de radiografias — torna a governança pós-implantação um diferencial de segurança e de credibilidade para clínicas e hospitais. Físicos médicos e equipes de TI tendem a assumir papel central nesse processo, ao lado dos radiologistas, documentando o desempenho dos algoritmos com o mesmo rigor aplicado ao controle de qualidade dos equipamentos.
Um debate que continua aberto
A conclusão do artigo é pragmática: o plano ideal de supervisão protege o paciente sem tornar a tecnologia mais trabalhosa do que ela vale. Ao focar em tendências em vez de outputs individuais, o modelo HOTL descrito na RadioGraphics parece cumprir esses requisitos — mas, como observa o The Imaging Wire, o debate sobre a melhor forma de supervisionar a IA em radiologia deve permanecer aceso nos próximos anos.
Fonte: The Imaging Wire
