Nos últimos anos, estudos descreveram as várias maneiras pelas quais as ferramentas de IA tornaram os médicos melhores em seus trabalhos: ajudaram na detecção de câncer, permitiram diagnósticos mais rápidos e, em alguns casos, contribuíram para prever com mais precisão quem corre risco de complicações. Mas novas pesquisas sugerem que o uso da inteligência artificial na prática médica pode ter um custo oculto.

Um estudo publicado no Lancet Gastroenterology and Hepatology descobriu que após apenas três meses usando uma ferramenta de I.A. projetada para ajudar a identificar crescimentos pré-cancerosos durante colonoscopias, os médicos ficaram significativamente piores em encontrar esses crescimentos por conta própria.

Esta é a primeira evidência de que depender de ferramentas de IA pode reduzir a capacidade de um médico de realizar habilidades fundamentais sem a tecnologia, um fenômeno conhecido como desqualificação.

“Este é um processo de mão dupla”, diz Omer Ahmad, gastroenterologista do Hospital Universitário College London, na Inglaterra, que publicou um editorial junto com o estudo. “Fornecemos inputs à IA que afetam sua saída, mas ela também parece afetar nosso comportamento.”

O estudo começou como muitos ensaios de IA na medicina. Médicos de quatro centros de endoscopia na Polônia receberam acesso a uma ferramenta de IA que sinalizava crescimentos suspeitos enquanto realizavam uma colonoscopia, desenhando uma caixa ao redor deles em tempo real. Vários outros grandes ensaios clínicos mostraram que essa tecnologia melhora significativamente a taxa de detecção de crescimentos pré-cancerosos pelos médicos, um indicador amplamente aceito do desempenho de um endoscopista.

Então, diferentemente de estudos anteriores, os pesquisadores mediram o que aconteceu quando a ferramenta foi retirada.

Nos três meses antes da introdução da tecnologia, os médicos detectaram crescimentos em cerca de 28% das colonoscopias. Depois, a taxa de detecção caiu para cerca de 22% —bem abaixo de sua linha de base.

Este foi um estudo observacional, o que significa que não pode responder se a tecnologia causou o declínio no desempenho. Pode haver outras explicações para o efeito: por exemplo, os médicos realizaram aproximadamente o dobro do número de colonoscopias após a introdução da ferramenta de IA em comparação com antes, o que poderia significar que prestaram menos atenção a cada exame.

Mas especialistas disseram que o fato de haver um efeito de desqualificação dificilmente é inesperado. Este fenômeno está bem documentado em outros campos: pilotos, por exemplo, passam por treinamentos especiais para aprimorar suas habilidades na era do piloto automático.

“Acho que a grande questão vai ser: E daí? Isso é importante?”, afirma Robert Wachter, chefe do departamento de medicina da Universidade da Califórnia, São Francisco, e autor do livro “The Digital Doctor: Hope, Hype, and Harm at the Dawn of Medicine’s Computer Age” (Um Salto Gigante: Como a IA Está Transformando a Saúde e O Que Isso Significa para Nosso Futuro, em tradução livre).

Por um lado, diz Wachter, há muitos exemplos inofensivos de novas tecnologias tornando antigas habilidades obsoletas. Graças à invenção do estetoscópio, por exemplo, muitos médicos teriam dificuldade em examinar o coração e os pulmões de um paciente sem um, como era comum nos anos 1700.

Mas para o Ahmad, a IA é distinta porque precisa de supervisão de longo prazo por humanos. Os algoritmos são treinados para um momento específico no tempo, e à medida que o mundo muda ao seu redor, eles funcionam de maneira diferente —às vezes para pior— e precisam de monitoramento e manutenção para garantir que ainda funcionem conforme o pretendido. Às vezes, fatores inesperados, como mudanças na iluminação superior, podem fazer com que os resultados da IA “fiquem completamente errados e descontrolados”, afirma.

Os médicos devem ser incluídos no processo para proteger os pacientes contra essas possibilidades. “Se eu perder as habilidades, como vou detectar os erros?”, pergunta Ahmad.

Mesmo que as ferramentas fossem perfeitas, Wachter alerta que a desqualificação poderia ser perigosa para os pacientes durante o atual período de transição, quando as ferramentas de IA não estão disponíveis em todos os sistemas de saúde e um médico acostumado a usá-las pode ser solicitado por um novo empregador a funcionar sem elas.

E embora a erosão da habilidade seja óbvia para alguém que analisa dados de milhares de procedimentos, Wachter diz que duvidava que cada médico individualmente notasse uma mudança em sua própria capacidade.

Ainda não está totalmente claro por que as habilidades de um médico podem diminuir tão rapidamente ao usar IA. Um pequeno estudo de rastreamento ocular descobriu que, ao usar a inteligência artificial, os médicos tendiam a olhar menos para as bordas da imagem, sugerindo que parte da memória muscular envolvida na revisão de um exame foi alterada pelo uso da ferramenta.

Ahmad afirma que também pode ser o caso de que, após meses confiando em um assistente, a resistência cognitiva necessária para avaliar cuidadosamente cada exame tenha se atrofiado.

De qualquer forma, especialistas em educação médica e líderes de saúde já estão considerando como combater esse efeito. Alguns sistemas de saúde, como o UC San Diego Health, nos Estados Unidos, investiram recentemente em treinamento de simulação, que pode ser usado para ajudar os médicos a praticar procedimentos sem IA para manter suas habilidades afiadas, diz Chris Longhurst, diretor clínico e de inovação do sistema de saúde.

Adam Rodman, diretor de programas de IA no Centro Médico Beth Israel Deaconess em Boston, também nos Estados Unidos, diz que algumas escolas de medicina também consideraram proibir a IA para os primeiros anos de treinamento dos estudantes.

Se apenas três meses de uso de uma ferramenta de IA puderam erodir as habilidades dos médicos experientes incluídos no estudo (em média, os médicos tinham praticado por cerca de 27 anos), o que aconteceria com estudantes de medicina e residentes que estão apenas começando a desenvolver essas habilidades? “Estamos cada vez mais chamando isso de ‘nunca desenvolver habilidades’”, diz Rodman.

Este artigo foi publicado originalmente no The New York Times.