Pour le meilleur comme pour le pire, les chatbots transforment notre manière de penser, d’apprendre et de percevoir le monde qui nous entoure. Cette évolution se manifeste dans de nombreux domaines de la vie quotidienne, mais l’un des plus sensibles (mais aussi des plus préoccupants) réside dans l’usage croissant des outils d’intelligence artificielle générative (GenAI) dans le domaine de la santé. 

En plus des nombreux chatbots d’IA disponibles gratuitement, les grandes entreprises technologiques se sont lancées dans l’IA médicale destinée au grand public avec le lancement de services tels que Copilot Health, ChatGPT Health et HealthAI d’Amazon, qui aident les utilisateurs à interpréter leurs dossiers médicaux et à poser des questions sur leurs symptômes, leurs résultats d’analyses ou leurs options de traitement. 

Cependant, il existe des dangers à confier le rôle de votre médecin à une IA. 

La menace ne réside pas seulement dans la possibilité de recevoir des conseils erronés, mais aussi dans le fait que les utilisateurs partagent des informations personnelles extrêmement sensibles avec des systèmes dont les protections de confidentialité, les pratiques de partage des données et les obligations légales peuvent être très différentes de celles d’un médecin ou d’un hôpital. De plus, ces données peuvent être exposées à des entités inattendues. 

Selon une organisation américaine spécialisée dans la sécurité des patients, la mauvaise utilisation des chatbots d’IA constitue désormais le principal risque technologique dans le domaine de la santé. 

De la théorie à la pratique 

La raison pour laquelle les concepteurs de modèles d’IA investissent ce domaine est évidente : les chatbots sont devenus un moyen extrêmement populaire de rechercher des conseils médicaux.

Selon Microsoft, les utilisateurs parlent davantage de leur propre santé et de celle de leurs proches que de tout autre sujet sur leurs appareils mobiles. Les chatbots sont disponibles 24h/24 et 7j/7, avec une réponse à tout, formulée sur un ton assuré qui contribue souvent à rassurer les patients anxieux. 

À une époque où les systèmes de santé nationaux sont soumis à une pression croissante, beaucoup de personnes préfèrent probablement commencer par un autodiagnostic à l’aide de l’IA avant de décider de consulter un professionnel de santé. 

Face à un secteur médical sous tension, une pénurie de médecins et la croissance des déserts médicaux en France, ces outils apparaissent comme une solution miracle pour les patients et une manne dans laquelle s’engouffrent ces nouveaux outils. 

Le temps, les démarches et les coûts potentiels liés à l’entrée dans un système de santé souvent complexe poussent de nombreux individus à effectuer un premier tri à domicile, ce qui explique la popularité croissante de cette approche. 

Cependant, des inquiétudes apparaissent déjà. La première concerne les hallucinations de l’IA, c’est-à-dire la production d’informations incorrectes ou de conseils erronés. 

Une étude de l’Université d’Oxford publiée en février dans Nature Medicine a révélé : 

  • Les utilisateurs ne savaient souvent pas quelles informations ils devaient partager avec le modèle de langage (LLM).

  • Les LLM fournissaient des réponses très différentes, même lorsque les questions variaient seulement légèrement.

  • Les modèles donnaient souvent à la fois de bons et de mauvais conseils, mais les utilisateurs avaient du mal à distinguer les uns des autres.

« Malgré tout l’engouement autour de cette technologie, l’IA n’est tout simplement pas prête à assumer le rôle d’un médecin », a averti l’auteure principale de l’étude et praticienne médicale, la Dre Rebecca Payne. 

« Les patients doivent être conscients que demander à un grand modèle de langage d’analyser leurs symptômes peut être dangereux, car cela peut conduire à de mauvais diagnostics et à une incapacité à reconnaître lorsqu’une aide médicale urgente est nécessaire. » 

Quels sont les risques pour la vie privée ? 

Il existe également des risques qui ne sont pas directement liés à la santé mais qui devraient inciter chacun à réfléchir avant d’utiliser ces outils. 

Le plus évident est que le partage d’informations médicales sensibles avec un chatbot accessible au public peut amener l’utilisation de ces données pour entraîner le modèle, avec le risque qu’elles soient ensuite communiquées, volontairement ou non, à d’autres utilisateurs. 

Certains modèles ont déjà été connus pour exposer accidentellement des données saisies par leurs utilisateurs. 

Par ailleurs, quelques éditeurs utilisent les données afin d’améliorer leurs modèles, sauf si l’utilisateur choisit explicitement de s’y opposer, tandis que d’autres promettent de ne pas utiliser les informations liées à la santé à des fins d’entraînement. 

Quoi qu’il en soit, chacun devrait savoir précisément à quel type de service il a affaire avant d’y télécharger des informations sensibles. 

Vos données de santé ne ressemblent pas à une carte bancaire volée que l’on peut bloquer puis remplacer. Elles vous appartiennent pour toute la vie et, une fois partagées avec un outil d’IA, elles peuvent devenir une trace numérique permanente. 

D’un autre côté, la plupart des principaux chatbots spécialisés dans la santé affirment ne pas utiliser ces données à des fins d’entraînement. 

Cependant, l’entraînement du modèle ne représente qu’une partie du problème de confidentialité, et ces services ne font pas nécessairement les mêmes promesses concernant le partage de données avec des tiers. 

Vos informations médicales personnelles peuvent ainsi se retrouver entre les mains d’un agrégateur de données, un intermédiaire situé entre le fournisseur du modèle et votre prestataire de soins de santé. 

Elles peuvent également être partagées avec des entreprises ou publicitaires, directement ou via ces agrégateurs, même si elles sont généralement anonymisées avant utilisation. 

Malgré cela, il convient de rester prudent : les données de santé sont particulièrement sensibles, et l’anonymisation ne supprime pas toujours tous les risques. 

Quand le risque de fuite de données se multiplie 

Le problème avec des données sensibles qui transitent entre autant d’organisations est que cela augmente les risques qu’elles soient exposées à des cybercriminels et à des fraudeurs. 

Des législateurs américains affirment avoir identifié 21 milliards de dollars de pertes liées à plusieurs violations de données touchant des sociétés de courtage de données (data brokers). 

Les données de santé ont une très forte valeur pour les fraudeurs pour plusieurs raisons : 

  • Elles conservent leur valeur pendant de longues périodes, car elles ne peuvent généralement ni être remplacées ni réémises.

  • Elles peuvent contenir des informations d’assurance permettant de soumettre de fausses demandes de remboursement ou d’obtenir des soins médicaux en votre nom.

  • Elles peuvent être utilisées à des fins de chantage.
     

Plus le nombre d’entreprises détenant ces données est important, plus les opportunités pour les hackers de compromettre ces organisations et de voler les informations augmentent. 

Le défi réside dans le fait que la plupart des outils d’IA destinés à la santé ne sont pas soumis à nos règlementations sur les données (notamment le RGPD), car ils sont considérés comme des services grand public et non comme des solutions professionnelles destinées aux entreprises. 

Cela signifie que leurs fournisseurs ne sont pas forcément tenus de respecter les règles strictes de protection des données que l’on attend habituellement dans le secteur médical. 

Quels conseils retenir en tant que patient ? 

Alors, comment réduire votre exposition aux risques liés à l’IA générative appliquée à la santé ? 

Si vous êtes préoccupé par un problème médical, évitez les chatbots généralistes et privilégiez ceux spécialement conçus pour répondre à des questions de santé. 

Vérifiez notamment : 

  • si le service explique clairement comment il traite vos données ;

  • s’il utilise vos requêtes pour entraîner ses modèles ;

  • s’il partage des informations avec des tiers ;

  • et s’il est soumis au RGPD

Ne faites jamais aveuglément confiance aux réponses fournies, sauf si elles comportent des liens de citation permettant de vérifier les informations. 

Et même dans ce cas, ne considérez pas ces réponses comme des vérités absolues : consultez toujours un professionnel de santé et/ou des sites officiels de référence. 

Protégez votre vie privée ! 

  • Ne partagez et ne téléchargez jamais de dossiers médicaux, résultats d’analyses ou autres documents sensibles dans un outil d’IA sans comprendre précisément comment ces données seront traitées.

  • Évitez de saisir des noms, adresses, informations d’assurance, numéros de patient ou tout autre identifiant personnel.

  • Assurez-vous que les fonctions d’entraînement du modèle et d’historique des conversations sont désactivées.

  • Ne fournissez que le minimum d’informations nécessaires à votre demande.

  • Considérez que tout ce que vous saisissez peut potentiellement être conservé ou exposé, et adaptez vos requêtes en conséquence.

Au final, les chatbots d’IA peuvent être utiles pour préparer des questions à poser à votre médecin ou pour expliquer un terme médical que vous ne connaissez pas. 

Mais il existe une grande différence entre utiliser l’IA pour se préparer à une consultation médicale et l’utiliser comme substitut à un véritable suivi médical. 

Ne considérez jamais une réponse formulée avec assurance comme un diagnostic, et n’ignorez pas des symptômes urgents simplement parce qu’une machine vous a rassuré.