Der Hals kratzt, die Wade zwickt und der vermeintliche Mückenstich sieht aus wie eine Beule: Wo früher Dr. Google um Rat gefragt wurde, sitzt nun ein neuer Ratgeber im digitalen Behandlungszimmer. Längst hat die generative KI-Tools (GenAI) auch im Gesundheitswesen Einzug gehalten, also einem der sensibelsten und oft auch persönlichsten Bereich. Neben einer Reihe frei verfügbarer KI-Chatbots sind große Technologieunternehmen mit der Einführung von Diensten wie Copilot Health, ChatGPT Health und Amazons HealthAI in den Bereich der verbraucherorientierten Gesundheits-KI vorgedrungen. Diese Dienste helfen Nutzern dabei, ihre Krankenakten zu interpretieren und Fragen zu ihren Symptomen, Laborergebnissen und Behandlungsmöglichkeiten zu stellen. 

Es birgt jedoch Risiken, wenn man erwartet, dass ein KI-Tool die Rolle des menschlichen Arztes übernimmt. Es besteht nicht nur das Risiko, dass Nutzer falsche Ratschläge erhalten, sondern auch, dass sie hochsensible persönliche Informationen an Systeme weitergeben. Deren Datenschutzmaßnahmen, Praktiken beim Datenaustausch und gesetzliche Verpflichtungen können sich von denen eines Arztes oder Krankenhauses massiv unterscheiden. Ganz zu schweigen davon, dass ihre Daten unerwarteten Stellen zugänglich gemacht werden könnten. Der Missbrauch von KI-Chatbots im Allgemeinen ist laut einer US-amerikanischen Organisation für Patientensicherheit mittlerweile die größte Gefahr im Bereich der Gesundheitstechnologie.

Von der Theorie zur Praxis

Der Grund, warum die Modellentwickler in diesem Bereich aktiv werden, liegt auf der Hand: Chatbots sind zu einer äußerst beliebten Methode geworden, um medizinischen Rat einzuholen. Laut Microsoft sprechen Menschen auf ihren Mobilgeräten häufiger über ihre Gesundheit und die ihrer Angehörigen als über jedes andere Thema. Chatbots stehen rund um die Uhr bereit und haben auf alles eine Antwort – in einem selbstbewussten Ton, der dazu beiträgt, nervöse Patienten zu beruhigen.

In einer Zeit, in der die nationalen Gesundheitssysteme zunehmend unter Druck stehen, würden sich viele Menschen wahrscheinlich mithilfe von KI selbst diagnostizieren, bevor sie entscheiden, ob sie einen Arzt aufsuchen. Der Zeit- und Arbeitsaufwand sowie die potenziellen Kosten, die mit dem Einstieg in das undurchsichtige Gesundheitssystem verbunden sind, machen diese Vorgehensweise zu einer beliebten Alternative zur Triage zu Hause.

Doch es tauchen bereits Bedenken auf. Die erste betrifft Halluzinationen oder falsche Ratschläge. Eine im Februar in „Nature Medicine“ veröffentlichte Studie der Universität Oxford ergab:

  • Die Nutzer wussten oft nicht, welche Informationen sie dem LLM mitteilen sollten
  • LLMs lieferten sehr unterschiedliche Antworten, selbst wenn sich die ihnen gestellten Fragen nur geringfügig unterschieden
  • Die Modelle gaben oft sowohl gute als auch schlechte Ratschläge, doch die Nutzer hatten Schwierigkeiten, zwischen beiden zu unterscheiden

„Trotz des ganzen Hypes ist die KI einfach noch nicht bereit, die Rolle des Arztes zu übernehmen“, warnte die leitende Ärztin der Studie, Dr. Rebecca Payne. „Patienten müssen sich bewusst sein, dass es gefährlich sein kann, ein großes Sprachmodell nach ihren Symptomen zu fragen, da es falsche Diagnosen stellen und nicht erkennen kann, wann dringende Hilfe benötigt wird.“

Die Datenschutzrisiken aufdecken

Es gibt auch Risiken, die nicht mit der Gesundheit zusammenhängen und die den Einzelnen zum Nachdenken anregen sollten. Das offensichtlichste Risiko besteht darin, dass die Weitergabe sensibler medizinischer Informationen an einen öffentlich zugänglichen Chatbot dazu führen kann, dass die Daten zum Trainieren des Modells verwendet und somit an andere weitergegeben werden. Es ist bekannt, dass Modelle – wenn auch unbeabsichtigt – versehentlich von ihren Nutzern eingegebene Daten offenlegen.

Einige Anbieter nutzen die Daten möglicherweise zur Verbesserung ihrer Modelle, sofern die Nutzer dem nicht widersprechen, während andere verbindlich versprechen, gesundheitsbezogene Informationen nicht zum Trainieren zu verwenden. So oder so sollte jeder wissen, mit welcher Art von Dienst er es zu tun hat, bevor er sensible Daten hochlädt. Ihre Gesundheitsdaten sind nicht wie eine gestohlene Kreditkarte, die gesperrt und schnell erneuert werden kann. Sie gehören Ihnen ein Leben lang, und sobald sie mit einem KI-Tool geteilt wurden, können sie zu einer dauerhaften digitalen Aufzeichnung werden.

Andererseits versprechen die meisten der wichtigsten gesundheitsorientierten Chatbots, diese Daten nicht für Trainingszwecke zu verwenden. Dennoch ist das Training nur ein Teil des Datenschutzgesamtes, und die Dienste geben möglicherweise nicht dieselben Zusagen hinsichtlich der Weitergabe von Daten an Dritte. Ihre persönlichen medizinischen Informationen könnten in die Hände eines Datenaggregators gelangen – eines Dritten, der zwischen dem Modellanbieter und Ihrem Gesundheitsdienstleister steht. Sie könnten auch an Werbetreibende weitergegeben werden, entweder direkt oder über einen dieser Aggregatoren, wobei sie in der Regel vor der Verwendung anonymisiert werden. Dennoch sollten Nutzer vorsichtig sein: Gesundheitsdaten sind besonders sensibel, und eine Anonymisierung beseitigt nicht immer jedes Risiko.

Wenn sich das Risiko von Datenschutzverletzungen vervielfacht

Das Problem bei sensiblen Daten, die so viele Organisationen durchlaufen, besteht darin, dass die Wahrscheinlichkeit größer ist, dass sie digitalen Dieben und Betrügern ausgesetzt werden. US-Gesetzgeber geben an, Verluste in Höhe von 21 Milliarden US-Dollar im Zusammenhang mit einer Handvoll Datenschutzverletzungen bei Datenbroker-Unternehmen ermittelt zu haben. Gesundheitsdaten lassen sich von Betrügern aus mehreren Gründen sehr gut zu Geld machen:

  • Sie behalten über lange Zeiträume ihren Wert, da sie in der Regel nicht ersetzt oder neu ausgestellt werden können
  • Sie können Versicherungsdaten enthalten, mit denen gefälschte Ansprüche geltend gemacht oder medizinische Leistungen in Ihrem Namen in Anspruch genommen werden können
  • Sie könnten dazu verwendet werden, Sie zu erpressen

Je mehr Unternehmen diese Daten speichern, desto mehr Möglichkeiten haben Hacker, in diese Systeme einzudringen und die Daten zu stehlen. Die Herausforderung besteht darin, dass die meisten KI-Tools im Gesundheitswesen nicht unter die HIPAA fallen, da sie als Verbraucher- und nicht als Unternehmensdienste eingestuft werden. Das bedeutet, dass die Anbieter möglicherweise nicht den strengen Datenschutzvorschriften unterliegen, die man normalerweise erwarten würde.

Ratschläge für Patienten

Wie können Sie also das Risiko im Zusammenhang mit GenAI im Gesundheitswesen minimieren? Wenn Sie sich wegen einer Erkrankung Sorgen machen, vermeiden Sie Allzweck-Bots und suchen Sie stattdessen nach solchen, die speziell für die Beantwortung gesundheitsbezogener Fragen entwickelt wurden. Prüfen Sie, ob der Dienst erklärt, wie er mit Ihren Daten umgeht, ob er Ihre Eingaben zum Training verwendet, ob er Informationen an Dritte weitergibt und ob er unter das HIPAA oder ein gleichwertiges Datenschutzregime in Ihrem Land fällt.

Vertrauen Sie den Ergebnissen nicht blind, es sei denn, es gibt Quellenangaben, anhand derer Sie diese überprüfen können. Und selbst dann sollten Sie die Antworten nicht als unumstößliche Wahrheit betrachten: Halten Sie immer Rücksprache mit medizinischem Fachpersonal und/oder informieren Sie sich auf einer offiziellen Website (z. B. NHS, MedlinePlus).

Um Ihre Privatsphäre zu schützen, beachten Sie Folgendes:

  • Geben Sie niemals medizinische Unterlagen, Laborergebnisse oder andere sensible Dokumente an ein KI-Tool weiter bzw. laden Sie diese nicht hoch, es sei denn, Sie wissen genau, wie das Tool mit diesen Daten umgeht.
  • Vermeiden Sie die Eingabe von Namen, Adressen, Versicherungsdaten, Patientennummern oder anderen Identifikationsmerkmalen.
  • Stellen Sie sicher, dass die Funktionen für das Training und den Chat-Verlauf deaktiviert sind.
  • Geben Sie nur die für die jeweilige Aufgabe unbedingt erforderlichen Informationen weiter.
  • Gehen Sie davon aus, dass alles, was Sie eingeben, gespeichert oder offengelegt werden könnte, und passen Sie Ihre Eingaben entsprechend an.

Letztendlich können KI-Chatbots nützlich sein, um Fragen zu einer bestimmten Erkrankung zu sammeln, die Sie Ihrem Arzt stellen möchten, oder um einen medizinischen Begriff zu erklären, mit dem Sie nicht vertraut sind. Es besteht jedoch ein großer Unterschied zwischen der Nutzung von KI zur Vorbereitung auf die medizinische Versorgung und der Nutzung als Ersatz für diese Versorgung. Betrachten Sie eine selbstbewusste Antwort nicht als Diagnose und ignorieren Sie keine dringenden Symptome, nur weil eine Maschine beruhigend klang.