O uso da Inteligência Artificial (IA) tem se tornado cada vez mais comum na medicina, especialmente na radiologia. Segundo um estudo recente publicado na revista Radiology, os médicos podem confiar excessivamente em sistemas de IA, particularmente quando essas ferramentas destacam áreas específicas de interesse em exames de imagem. Embora a IA possa ser uma aliada poderosa, ela também apresenta desafios significativos, como o risco de superdependência.
Avanços na IA em Radiologia
Desde 2022, a Administração de Alimentos e Medicamentos dos EUA (FDA) aprovou 190 softwares de IA para uso em radiologia. Apesar disso, ainda há um fosso entre o desenvolvimento tecnológico e sua aplicação clínica efetiva. De acordo com o Dr. Paul H. Yi, diretor de informática de imagem inteligente no Hospital de Pesquisa Infantil St. Jude, é crucial fomentar uma confiança adequada na IA para que essa tecnologia seja usada de forma eficaz.
O Estudo
No estudo, realizado em múltiplos locais, 220 médicos, incluindo radiologistas e clínicos gerais, analisaram radiografias de tórax com a assistência de um sistema simulado de IA. Esse sistema oferecia sugestões de diagnóstico com explicações locais ou globais:
- Explicações locais: destacavam diretamente as áreas relevantes da imagem.
- Explicações globais: forneciam imagens semelhantes de casos anteriores para justificar o diagnóstico.
Os participantes podiam aceitar, modificar ou rejeitar as sugestões da IA, além de avaliar sua confiança no diagnóstico e classificar a utilidade do sistema.
Descobertas do Estudo
Os resultados revelaram que os médicos tendiam a confiar mais rapidamente nas sugestões da IA quando eram fornecidas explicações locais, mesmo que essas sugestões fossem incorretas. A acurácia diagnóstica foi maior quando as sugestões da IA estavam corretas e acompanhadas de explicações locais:
- Sugestões corretas: 92,8% de acurácia com explicações locais contra 85,3% com explicações globais.
- Sugestões incorretas: 23,6% de acurácia com explicações locais contra 26,1% com explicações globais.
Esses resultados demonstram que a confiança na IA pode ser uma “faca de dois gumes”, facilitando diagnósticos mais rápidos e precisos, mas também aumentando o risco de erros devido ao viés de automação.
Lições para o Futuro
O estudo destaca a necessidade de uma colaboração estreita entre indústria e pesquisadores da saúde para desenvolver sistemas de IA mais transparentes e seguros. Segundo o Dr. Yi, é essencial que os radiologistas permaneçam atentos aos seus padrões de diagnóstico e treinamento, evitando uma dependência cega na tecnologia.
“Quando confiamos demais no que o computador nos diz, isso é um problema, porque a IA nem sempre está certa”, alertou o Dr. Yi.
Esse estudo é um passo importante para compreender como a explicação da IA pode influenciar o uso clínico e destaca a importância de pesquisas futuras para equilibrar eficácia e segurança no uso dessa tecnologia.
Para mais informações, visite RSNA.
Esta é uma adaptação do conteúdo original publicado pela RSNA.
