Ferramentas de IA na medicina

Nos últimos anos, estudos descreveram as muitas maneiras pelas quais as ferramentas de IA tornaram os médicos melhores em seus trabalhos: elas os ajudaram a detectar câncer, permitiram que fizessem diagnósticos mais rapidamente e, em alguns casos, os ajudaram a prever com mais precisão quem corre risco de complicações.

Mas uma nova pesquisa sugere que colaborar com IA pode ter um custo oculto. Um estudo publicado no “Lancet Gastroenterology and Hepatology” descobriu que, após apenas três meses de uso de uma ferramenta de IA projetada para ajudar a detectar crescimentos pré-cancerosos durante colonoscopias, os médicos tiveram uma dificuldade significativa em encontrar os crescimentos por conta própria.

Esta é a primeira evidência de que depender de ferramentas de IA pode prejudicar a capacidade de um médico de executar habilidades fundamentais sem a tecnologia, um fenômeno conhecido como "desqualificação".

“Este é um processo bidirecional”, disse Omer Ahmad, gastroenterologista do University College Hospital de Londres, que publicou um editorial junto com o estudo. “Damos à IA informações que afetam seus resultados, mas isso também parece afetar nosso comportamento”, comentou.

O estudo começou como muitos ensaios de IA na medicina. Médicos de quatro centros de endoscopia na Polônia tiveram acesso a uma ferramenta de IA que sinalizava tumores suspeitos enquanto realizavam uma colonoscopia, desenhando uma caixa ao redor deles em tempo real. 

Vários outros ensaios clínicos de grande porte demonstraram que essa tecnologia melhora significativamente a taxa de detecção de tumores pré-cancerosos pelos médicos, um indicador amplamente aceito do desempenho de um endoscopista.

Então, diferentemente de estudos anteriores, os pesquisadores mediram o que aconteceu quando a ferramenta foi retirada. Nos três meses anteriores à introdução da tecnologia, os médicos detectaram tumores em cerca de 28% das colonoscopias. Agora, a taxa de detecção caiu para cerca de 22%, bem abaixo do nível de referência.

Este foi um estudo de observação, o que significa que não é possível responder se a tecnologia causou a queda no desempenho. Pode haver outras explicações para o efeito: por exemplo, os médicos realizaram cerca do dobro do número de colonoscopias após a introdução da ferramenta de IA em comparação com antes, o que pode ter significado que eles prestaram menos atenção a cada exame.

Problemas à vista

Especialistas afirmam que o fato de haver um efeito de desqualificação não é inesperado. Esse fenômeno é bem documentado em outras áreas: pilotos, por exemplo, passam por treinamento especial para aprimorar suas habilidades na era do piloto automático.

“Acho que a grande questão será: E daí? Isso é importante?”, disse Robert Wachter, chefe do departamento de medicina da Universidade da Califórnia, em São Francisco, e autor de “Um Salto Gigante: Como a IA Está Transformando a Saúde e o Que Isso Significa para o Nosso Futuro”.

“Por um lado, existem muitos exemplos inofensivos de novas tecnologias tornando técnicas antigas obsoletas. Sem a invenção do estetoscópio, por exemplo, os médicos teriam dificuldade para examinar o coração e os pulmões de um paciente, como era comum no século 18”, lembrou Wachter.

Mas, para Ahmad, a IA se distingue por necessitar de supervisão humana de longo prazo. Algoritmos são treinados para um momento específico e, à medida que o mundo muda ao seu redor, eles apresentam desempenho diferente — às vezes para pior — e precisam de monitoramento e manutenção para garantir que continuem funcionando conforme o esperado. Às vezes, fatores inesperados, como mudanças na iluminação do teto, podem fazer com que os resultados da IA ​​"deem completamente errado e descontrolados", disse ele.

Os médicos devem ser incluídos no processo para proteger os pacientes contra essas possibilidades. “Se eu perder as habilidades, como vou identificar os erros?”, questiona Ahmad.

Mesmo que as ferramentas fossem perfeitas, Wachter alertou que a desqualificação pode ser perigosa para os pacientes durante o atual período de transição, quando as ferramentas de IA não estão disponíveis em todos os sistemas de saúde e um médico acostumado a usá-las pode ser solicitado por um novo empregador a trabalhar sem elas.

E embora a erosão da habilidade seja óbvia para alguém que analisa dados de milhares de procedimentos, Wachter disse que duvidava que cada médico percebesse uma mudança em sua própria habilidade.

Ainda não está totalmente claro por que as habilidades de um médico pode declinar tão rapidamente ao usar IA. Um pequeno estudo de rastreamento ocular descobriu que, ao usar a IA, os médicos tendiam a olhar menos para as bordas da imagem, sugerindo que parte da memória muscular envolvida na revisão de uma varredura foi alterada pelo uso da ferramenta.

Ahmad disse que também pode ser o caso de que, depois de meses dependendo de um ajudante, a resistência cognitiva necessária para avaliar cuidadosamente cada exame tenha atrofiado.

Para o futuro

De qualquer forma, especialistas em educação médica e líderes em saúde já estão considerando como combater o efeito. Alguns sistemas de saúde, como o UC San Diego Health, investiram recentemente em treinamento de simulação, que pode ser usado para ajudar médicos a praticar procedimentos sem IA e manter suas habilidades aprimoradas.

Adam Rodman, diretor de programas de IA no Beth Israel Deaconess Medical Center, em Boston, disse que algumas escolas de medicina também consideraram proibir a IA nos primeiros anos de treinamento dos alunos.

Se apenas três meses de uso de uma ferramenta de IA puderam corroer as habilidades dos médicos experientes incluídos no estudo (em média, os médicos atuavam há cerca de 27 anos), o que aconteceria com os estudantes de medicina e residentes que estão apenas começando a desenvolver essas habilidades?

“Estamos cada vez mais chamando isso de “nunca-capacitar-se” ou, sem habilidade”, avaliou Rodman.

 

(Fontes: The New York Times // O Globo)