Com centenas de milhões de pessoas recorrendo a chatbots em busca de orientação, era apenas questão de tempo até as empresas de tecnologia começarem a oferecer programas especificamente projetados para responder a questões de saúde.
Em janeiro, a OpenAI apresentou o ChatGPT Health, uma nova versão de seu chatbot que, segundo a empresa, pode analisar registros médicos dos usuários, aplicativos de bem-estar e dados de dispositivos vestíveis para responder a questões de saúde e medicina. Atualmente, há uma lista de espera para o programa. A Anthropic, uma empresa rival de IA, oferece recursos semelhantes para alguns usuários de seu chatbot Claude.
Ambas as empresas afirmam que seus programas, conhecidos como modelos de linguagem ampla, não substituem o atendimento profissional e não devem ser usados para diagnosticar condições médicas. Em vez disso, dizem que os chatbots podem resumir e explicar resultados de exames complexos, ajudar na preparação para consultas médicas ou analisar tendências importantes de saúde ocultas em registros médicos e métricas de aplicativos.
Aqui estão alguns pontos a considerar antes de conversar com um chatbot sobre sua saúde:
Chatbots podem oferecer informações mais personalizadas do que uma pesquisa no Google
Alguns médicos e pesquisadores que trabalharam com o ChatGPT Health e programas similares os veem como uma melhoria em relação ao status quo.
As plataformas de IA não são perfeitas — elas podem às vezes alucinar ou fornecer maus conselhos — mas as informações que produzem têm mais probabilidade de serem personalizadas e específicas do que o que os pacientes podem encontrar através de uma pesquisa no Google.
“A alternativa frequentemente é nada, ou o paciente improvisando”, disse Dr. Robert Wachter, especialista em tecnologia médica da Universidade da Califórnia, São Francisco. “E então eu acho que se você usar essas ferramentas de forma responsável, pode obter informações úteis.”
Uma vantagem dos chatbots mais recentes é que eles respondem às perguntas dos usuários com contexto de seu histórico médico, incluindo prescrições, idade e anotações médicas.
Mesmo que você não tenha dado acesso à IA aos seus dados médicos, Wachter e outros recomendam fornecer aos chatbots o máximo de detalhes possível para melhorar as respostas.
Se você estiver com sintomas preocupantes, evite a IA
Wachter e outros enfatizam que há situações em que as pessoas devem pular o chatbot e buscar atendimento médico imediato. Sintomas como falta de ar, dor no peito ou dor de cabeça forte podem indicar uma emergência médica.
Mesmo durante situações menos urgentes, pacientes e médicos devem abordar os programas de IA com “um grau de ceticismo saudável”, disse Dr. Lloyd Minor, da Universidade de Stanford.
“Se você está falando sobre uma decisão médica importante, ou mesmo uma decisão menor sobre sua saúde, você nunca deve confiar apenas no que está obtendo de um modelo de linguagem ampla”, disse Minor, que é o reitor da faculdade de medicina de Stanford.
Considere sua privacidade antes de enviar quaisquer dados de saúde
Muitos benefícios oferecidos pelos bots de IA vêm do compartilhamento de informações médicas pessoais pelos usuários. Mas é importante entender que qualquer informação compartilhada com uma empresa de IA não está protegida pela lei federal de privacidade que normalmente rege informações médicas sensíveis.
Comumente conhecida como HIPAA, a lei permite multas e até prisão para médicos, hospitais, seguradoras ou outros serviços de saúde que divulgam registros médicos. Mas a lei não se aplica às empresas que desenvolvem chatbots.
“Quando alguém está enviando seu prontuário médico para um modelo de linguagem ampla, isso é muito diferente de entregá-lo a um novo médico”, disse Minor. “Os consumidores precisam entender que são padrões de privacidade completamente diferentes.”
Tanto a OpenAI quanto a Anthropic dizem que as informações de saúde dos usuários são mantidas separadas de outros tipos de dados e estão sujeitas a proteções adicionais de privacidade. As empresas não usam dados de saúde para treinar seus modelos. Os usuários devem optar por compartilhar suas informações e podem desconectar a qualquer momento.
Testes mostram que chatbots podem tropeçar
Apesar do entusiasmo em torno da IA, os testes independentes da tecnologia ainda estão em sua infância. Estudos iniciais sugerem que programas como o ChatGPT podem se sair bem em exames médicos de alto nível, mas frequentemente tropeçam ao interagir com humanos.
Um estudo com 1.300 participantes da Universidade de Oxford descobriu recentemente que pessoas usando chatbots de IA para pesquisar condições hipotéticas de saúde não tomaram decisões melhores do que pessoas usando buscas online ou julgamento pessoal.
Chatbots de IA apresentados com cenários médicos em forma escrita abrangente identificaram corretamente a condição subjacente em 95% das vezes.
“Esse não era o problema”, disse o autor principal Adam Mahdi, do Oxford Internet Institute. “O ponto onde as coisas desmoronaram foi durante a interação com os participantes reais.”
Mahdi e sua equipe encontraram vários problemas de comunicação. As pessoas frequentemente não forneciam aos chatbots as informações necessárias para identificar corretamente o problema de saúde
Por outro lado, os sistemas de IA frequentemente responderam com uma combinação de informações boas e ruins, e os usuários tiveram dificuldade em distinguir entre as duas.
O estudo, realizado em 2024, não utilizou as versões mais recentes dos chatbots, incluindo novos produtos como o ChatGPT Health.
Uma segunda opinião da IA pode ser útil
A capacidade dos chatbots de fazer perguntas de acompanhamento e extrair detalhes importantes dos usuários é uma área onde Wachter vê espaço para melhorias.
“Acho que é quando isso vai ficar realmente bom, quando as ferramentas se tornarem um pouco mais parecidas com médicos na forma como interagem” com os pacientes, disse.
Por enquanto, uma maneira de se sentir mais confiante sobre as informações que você está recebendo é consultar múltiplos chatbots — similar a obter uma segunda opinião de outro médico.
“Às vezes, coloco informações no ChatGPT e informações no Gemini”, disse Wachter, referindo-se à ferramenta de IA do Google. “E quando ambos concordam, me sinto um pouco mais seguro de que essa é a resposta correta.”
Por: CNN Brasil