Para o bem ou para o mal, os chatbots estão mudando a forma como pensamos, aprendemos e percebemos o mundo ao nosso redor. Esse tipo de transformação já impacta diversas áreas da vida, mas talvez uma das mais sensíveis e preocupantes, seja o uso crescente de ferramentas de IA generativa (GenAI) na área da saúde.

Além dos diversos chatbots de IA disponíveis gratuitamente, grandes empresas de tecnologia passaram a investir em soluções de IA voltadas ao consumidor, com o lançamento de serviços como Microsoft Copilot Health, ChatGPT Health e Amazon HealthAI, que ajudam usuários a interpretar prontuários médicos e fazer perguntas sobre sintomas, resultados de exames e opções de tratamento.

Mas existem riscos em esperar que uma ferramenta de IA assuma o papel do seu médico. O problema não é apenas receber orientações incorretas, mas também compartilhar informações pessoais extremamente sensíveis com sistemas cujas políticas de privacidade, práticas de compartilhamento de dados e obrigações legais podem ser muito diferentes das adotadas por médicos ou hospitais. Além disso, esses dados podem acabar expostos a instituições inesperadas.

O uso inadequado de chatbots de IA, inclusive, já é considerado o principal risco tecnológico relacionado à saúde por uma organização norte-americana voltada à segurança do paciente.

Por que pessoas estão usando IA para orientações médicas?

O motivo pelo qual empresas desenvolvedoras de modelos de IA estão investindo nesse segmento é evidente: os chatbots se tornaram uma ferramenta extremamente popular para buscar orientações médicas. Segundo a Microsoft, as pessoas falam sobre a própria saúde e a de familiares em dispositivos móveis mais do que sobre qualquer outro assunto.

Disponíveis 24 horas por dia, sete dias por semana, os chatbots oferecem respostas para praticamente qualquer dúvida, geralmente em um tom confiante que pode transmitir segurança e tranquilizar pacientes preocupados.

Em um momento em que sistemas públicos de saúde enfrentam pressão crescente em diversos países, muitas pessoas tendem a recorrer primeiro à IA para tentar um autodiagnóstico antes de decidir procurar atendimento médico. O tempo, o esforço e até os custos envolvidos em navegar pelo sistema de saúde fazem com que essa triagem inicial feita em casa pareça uma alternativa interessante.

No entanto, as preocupações já começam a surgir. A principal delas envolve respostas e dicas incorretas da IA. Um estudo da University of Oxford publicado em fevereiro na revista Nature Medicine revelou que:

  • Usuários frequentemente não sabiam quais informações deveriam compartilhar com os modelos de linguagem (LLMs);
  • Os LLMs forneciam respostas muito diferentes, mesmo quando as perguntas variavam apenas ligeiramente;
  • Os modelos frequentemente misturavam orientações corretas e incorretas, e os usuários tinham dificuldade para distinguir uma da outra.

“Apesar de toda a empolgação, a IA simplesmente ainda não está pronta para assumir o papel de um médico”, alertou a médica responsável pelo estudo, Rebecca Payne. “Os pacientes precisam entender que perguntar a um modelo de linguagem sobre seus sintomas pode ser perigoso, gerando diagnósticos errados e falhando em reconhecer situações que exigem atendimento urgente.”

Os riscos de privacidade ao usar IA para consultas médicas

Também existem riscos que vão além da saúde e que deveriam fazer os usuários refletirem antes de compartilhar informações sensíveis com um chatbot de IA. O mais evidente é que dados médicos inseridos em plataformas públicas podem ser utilizados para treinar modelos de IA e, consequentemente, acabar aparecendo em respostas fornecidas a outras pessoas. Inclusive sem intenção, modelos já foram flagrados expondo acidentalmente informações digitadas por usuários.

Alguns provedores utilizam os dados para aprimorar seus modelos, a menos que o usuário opte por desativar esse compartilhamento. Outros fazem promessas mais rígidas de não usar informações relacionadas à saúde para treinamento. Ainda assim, é fundamental entender exatamente com qual tipo de serviço você está lidando antes de enviar qualquer dado sensível.

Informações médicas não são como um cartão de crédito roubado, que pode ser bloqueado e substituído. Seus dados de saúde são permanentes e, uma vez compartilhados com uma ferramenta de IA, podem se tornar um registro digital para toda a vida.

Por outro lado, a maioria dos principais chatbots focados em saúde afirma não utilizar esses dados para treinamento de modelos. No entanto, o treinamento representa apenas uma parte da questão relacionada à privacidade. Isso porque esses serviços podem não oferecer as mesmas garantias em relação ao compartilhamento de dados com terceiros.

Na prática, suas informações médicas pessoais podem ser compartilhadas com empresas terceirizadas que atuam como intermediárias entre os provedores de IA e os serviços de saúde. Esses dados também podem chegar a anunciantes, de forma direta ou indireta, mesmo que normalmente passem por processos de anonimização antes de serem utilizados.

Mesmo assim, cautela é indispensável: dados de saúde são extremamente sensíveis, e a anonimização nem sempre elimina todos os riscos.

Quando o risco de vazamentos aumenta

O problema de dados sensíveis circularem entre tantas organizações é que isso amplia as chances de exposição a cibercriminosos e fraudadores. Parlamentares dos United States afirmam ter identificado perdas de US$ 21 bilhões (cerca de R$ 120 bilhões) relacionadas a uma série de vazamentos envolvendo empresas de corretagem de dados.

Informações de saúde possuem alto valor para criminosos digitais por diversos motivos:

  • Mantêm seu valor por longos períodos, já que normalmente não podem ser substituídas ou reemitidas;
  • Podem incluir dados de seguros de saúde usados para apresentar solicitações fraudulentas ou obter serviços médicos em nome da vítima;
  • Também podem ser utilizadas para chantagem.

Quanto maior o número de empresas com acesso a esses dados, maiores são as oportunidades para que cibercriminosos comprometam algum desses ambientes e roubem as informações.

O desafio é que muitas ferramentas de IA voltadas à saúde não estão sujeitas às regras da HIPAA, justamente porque são classificadas como serviços para consumidores e não como soluções corporativas voltadas ao setor médico. Isso significa que os provedores podem não estar submetidos aos níveis rigorosos de proteção de dados normalmente esperados em ambientes de saúde.

Orientações para pacientes

Então, como reduzir a exposição aos riscos envolvendo IA generativa aplicada à saúde? Se você estiver preocupado com alguma condição médica, evite chatbots de uso geral e prefira ferramentas desenvolvidas especificamente para responder questões relacionadas à saúde. Também é importante verificar se o serviço informa de forma transparente como trata os dados dos usuários, se utiliza as interações para treinamento da IA e se compartilha informações com terceiros.

No Brasil, vale observar ainda se a plataforma segue as diretrizes da Lei Geral de Proteção de Dados (LGPD) e adota padrões de segurança equivalentes aos exigidos em regulamentações internacionais voltadas à proteção de informações médicas, como a HIPAA, nos Estados Unidos.

Além disso, não confie cegamente nas respostas geradas, principalmente quando não houver links ou referências que permitam verificar as informações. E mesmo quando existirem fontes citadas, não trate as respostas como verdades absolutas: sempre confirme com um profissional de saúde ou em sites oficiais e confiáveis.

Para proteger sua privacidade, considere as seguintes recomendações:

  • Nunca envie documentos médicos, resultados de exames ou outros arquivos sensíveis para uma ferramenta de IA sem entender exatamente como esses dados serão tratados;
  • Evite informar nomes, endereços, dados de seguro, números de pacientes ou qualquer outro identificador pessoal;
  • Verifique se recursos de treinamento e histórico de conversas estão desativados;
  • Compartilhe apenas o mínimo necessário para obter a resposta desejada;
  • Considere que tudo o que for digitado pode ser armazenado ou exposto futuramente e formule suas perguntas levando isso em conta.

No fim das contas, chatbots de IA podem ser úteis para ajudar usuários a preparar perguntas para uma consulta médica ou explicar termos técnicos difíceis de entender. Mas existe uma grande diferença entre usar IA como apoio antes do atendimento e utilizá-la como substituta de cuidados médicos reais.

Não confunda respostas aparentemente seguras e convincentes com um diagnóstico médico confiável, e jamais ignore sintomas graves ou urgentes apenas porque uma IA forneceu uma resposta tranquilizadora.