Milhões de americanos estão recorrendo a chatbots de IA para obter respostas sobre saúde. Os médicos também. Mas as maneiras como os médicos estão incorporando chatbots de IA em sua prática são surpreendentes. Ferramentas do tipo especializados em medicina rapidamente se tornaram uma fonte de consulta para muitos médicos e residentes.

O CEO de uma dessas empresas de chatbots médicos recentemente afirmou que mais de 100 milhões de americanos foram tratados por um médico que usou sua plataforma no ano passado. Plataformas populares como o ChatGPT da OpenAI não atendem às exigências dos profissionais da saúde, que dizem que essas plataformas nem sempre são precisas ou atualizadas com as orientações mais recentes.

As políticas de uso da OpenAI estabelecem que os usuários não têm permissão para usar seus serviços para “conselhos personalizados” sem consultar um profissional de saúde licenciado.

“O ChatGPT é como seu tio maluco”, disse a Dra. Ida Sim, professora da Universidade da Califórnia, São Francisco, que estuda como usar dados e tecnologia para melhorar os cuidados de saúde.

A vantagem, diz Sim, é que os chatbots médicos são menos propensos à bajulação e mais propensos a fundamentar respostas em pesquisas revisadas por pares e diretrizes clínicas. É por isso que ela diz que a adoção tem sido “tremenda”.

O caso de uso mais comum

Milhões de artigos de pesquisa são publicados todos os anos — e acompanhar todos eles é impossível. “Você precisaria de cerca de 18 horas por dia para se manter atualizado”, disse o Dr. Jared Dashevsky, médico residente na Escola de Medicina Icahn do Mount Sinai.

Mas espera-se que os médicos estejam atualizados sobre novas pesquisas e diretrizes para manter suas licenças. Muitos dizem que agora usam chatbots médicos como ferramenta de referência para ajudá-los a se manterem atualizados.

Em vez de extrair informações de toda a internet, as ferramentas especializados pesquisam ativamente a literatura médica, diz o Dr. Jonathan H. Chen, professor associado da Stanford Medicine que lidera os esforços de seu sistema de saúde para integrar a IA na educação médica. Esse fluxo de trabalho fornece aos médicos respostas mais precisas que resumem e vinculam a importantes artigos e diretrizes.  Dashevsky, que escreve sobre IA, diz que esses recursos são especialmente úteis para médicos em treinamento que trabalham longas horas.

Carregar registros de pacientes em bots de IA

Alguns sistemas de saúde adotaram chatbots de IA para melhorar o atendimento ao paciente, prometendo aos médicos proteções de segurança e privacidade. Mas muitos médicos usam chatbots não autorizados chamados “shadow AIs”, segundo médicos com quem a CNN conversou.

Algumas dessas IAs paralelas também anunciam recursos de conformidade com a HIPAA — uma lei federal que exige que certas organizações que mantêm informações de saúde identificáveis — como hospitais e seguradoras — as protejam de serem divulgadas sem o consentimento do paciente. Mas a linguagem usada pelas shadow AIs levou alguns médicos a acreditar que é seguro carregar informações protegidas de saúde em chatbots em troca de respostas mais personalizadas.

Porém, Iliana Peters, advogada de saúde no escritório Polsinelli que anteriormente liderou a aplicação da HIPAA para o Departamento de Saúde e Serviços Humanos dos EUA, diz que essa suposição é imprecisa. “‘Conformidade com a HIPAA’ não é um termo preciso para ser usado por qualquer empresa”, disse Peters, explicando que a frase deve ser usada apenas por reguladores governamentais.

Apesar disso, a Dra. Carolyn Kaufman — médica residente na Stanford Medicine — e outros médicos dizem que informações de pacientes estão sendo inseridas em chatbots não autorizados, potencialmente abrindo portas para novas formas de mercantilização de dados de pacientes.

“Dados são dinheiro”, disse Kaufman, observando que ela nunca carregou informações protegidas pela HIPAA em um chatbot não aprovado. “Se estamos simplesmente carregando esses dados livremente em certos sites, então isso é obviamente um risco para o paciente individual e para a instituição também.”

Elaboração de notas geradas por IA

Os chatbots de IA também têm ajudado médicos a redigir resumos de consultas de pacientes e longas internações hospitalares. Essas anotações são visíveis nos portais online de pacientes e ajudam os médicos a acompanhar o curso de um paciente e comunicar planos em toda a equipe de atendimento

“Provavelmente é mais seguro ter inteligência artificial revisando um curso hospitalar e sabendo tudo o que aconteceu, versus você como humano — com tempo limitado, pulando de nota em nota — tentando juntar as peças”, disse Dashevsky, argumentando que, embora preocupações sobre a precisão da IA sejam válidas, resumos feitos por humanos também podem perder detalhes importantes.

Escrevendo cartas para companhias de seguros

O trabalho administrativo pode ocupar quase nove horas por semana para o médico médio, e o tempo que os médicos gastam em tarefas relacionadas a seguros custa aproximadamente US$ 26,7 bilhões (cerca de R$ 135,5 bilhões) a cada ano.

Um recurso que Dashevsky diz ter sido um “divisor de águas” são cartas escritas por chatbots para companhias de seguros para autorizações prévias e outras correspondências, permitindo que ele atenda às solicitações dos pacientes mais rapidamente.

“Eu teria que descobrir quem é esse paciente, escrever a carta eu mesmo e revisá-la. Levava muito tempo”, disse ele. “Agora, a IA produzirá para você uma carta realmente boa.”

Criando uma lista de possíveis diagnósticos

Quando os pacientes procuram os médicos com preocupações, os médicos precisam descobrir como ajudá-los. Parte desse processo é considerar uma variedade de possíveis diagnósticos.

Muitos estudantes de medicina e estagiários usam chatbots de IA para ajudar a construir essa lista, e alguns médicos além do treinamento também usam o recurso.

“Da perspectiva de um estudante de medicina… você está vendo muitas coisas pela primeira vez”, disse Evan Patel, um estudante de medicina do quarto ano na Rush University Medical College. “Os chatbots de IA de certa forma me ajudam a me orientar sobre quais possibilidades poderiam ser.”

Kaufman diz que os bots fornecem a lista mais precisa quando ela inclui todos os pontos de dados vinculados aos pacientes, como resultados de laboratório e achados de imagem.

O que os pacientes precisam saber

Todos os oito médicos e estagiários com quem a CNN conversou dizem que usam regularmente chatbots médicos de IA. E a maioria tem uma perspectiva positiva, vendo essas ferramentas como uma maneira de descarregar certas tarefas cognitivas e administrativas.

Mas as preocupações com a privacidade dos pacientes são válidas, dizem os médicos. Como com qualquer ferramenta de IA, Kaufman diz, erros acontecem e as informações podem ser imprecisas.

Quando ela consulta colegas para uma segunda opinião, ela diz que eles “quase nunca concordam” com a resposta do chatbot de IA. “As pessoas tratam a IA como se fosse mágica”, disse Chen. “Não é mágica”.

“Ela não pode simplesmente fazer qualquer coisa que você queira.” Ele acrescentou: “Você faz a mesma pergunta 10 vezes, e ela lhe dará 10 respostas diferentes.” Essa variabilidade, argumenta Chen, destaca algumas das limitações superficiais.

A medicina opera em três camadas, diz Sims: fluxos de trabalho, conhecimento e expertise. A IA está transformando as duas primeiras. Mas essa última camada — fundamental para o cuidado que os pacientes recebem — é mais difícil de replicar e pode ser o que mais importa.

“Se nós apenas aplicássemos diretrizes, então nos substituam”, disse Sim. “É onde você pega o conhecimento e o aplica a um conjunto de condições em evolução no contexto da sua vida. Isso é medicina. Está no contexto da vida das pessoas. E essas máquinas não fazem isso.”

Inteligência artificial na cardiologia: entenda seus usos para saúde