Nutzung von KI-Chatbots bei Gesundheitsfragen: Wie überprüfbar und verlässlich sind die Ergebnisse?

„Zu Risiken und Nebenwirkungen lesen Sie die Packungsbeilage und fragen Ihren Arzt oder Apotheker.“ Oder Doktor Google. Oder neuerdings auch Doktor KI. Immer mehr Menschen nutzen bei ihrer Suche nach Informationen künstliche Intelligenz (KI) in Form von KI-Chatbots. Diese können auch bei Gesundheitsfragen schnelle Ergebnisse liefern. Aber ist schnell auch gleich richtig oder gut?

Gerade beim Thema Gesundheit sollte man den KI-Antworten nicht blind vertrauen. Die Stiftung Gesundheitswissen erklärt, wie einfach man prüfen kann, ob ein KI-Chatbot seriöse Ergebnisse produziert. 

Verstehen, wie Informationen entstehen

Chatbots wie zum Beispiel ChatGPT oder Google Gemini werden mit einer großen Menge an Textdaten aus Webseiten, digitalisierten Artikeln, Büchern und anderen Quellen trainiert. Dabei erfasst die KI Muster unserer Sprache und lernt, Wahrscheinlichkeiten für Wörter und Wortfolgen bestmöglich vorherzusagen. Diese nutzt sie dann, um Antworten auf Nutzeranfragen zu generieren. So können sie auf Fragen antworten oder gleich ganze Arbeitsaufträge erledigen, indem sie zum Beispiel Inhalte zu bestimmten Krankheiten zusammenstellen.

Um die Ergebnisse richtig einzuordnen, ist es wichtig zu wissen, dass die KI in ihren Antworten zwar menschlich anmutet, sie aber nicht wie ein Mensch denkt. Sie versteht die Nutzerfragen und die eigenen Antworten nicht. Stattdessen erkennt sie Sprachmuster.

Antworten von KI-Chatbots sind nicht immer vertrauenswürdig

Manchmal baut die KI auch falsche Antworten zusammen. Ob die Antworten korrekt sind, überprüft sie nicht. KI-Chatbots sind außerdem darauf programmiert, auf jede Frage eine Antwort zu liefern. Das tun sie auch, wenn ihnen keine passenden Informationen zur Frage vorliegen. Dann erzeugt die KI häufig eine sogenannte Halluzination: einen Inhalt, der auf den ersten Blick zwar plausibel klingt, aber frei erfunden ist. Zudem können die Informationen, mit denen die KI trainiert wurde, veraltet sein.

Eine Fehlerquelle kann auch der Nutzer selbst sein. Etwa wenn seine Frage voreingenommen formuliert ist.

Vier Punkte, wie man KI-Ergebnisse prüfen kann

Insbesondere bei Gesundheitsfragen können fehlerhafte Informationen vom KI-Chatbot schwerwiegende Folgen haben. Deshalb sollten Sie die Antworten immer mit folgenden Schritten überprüfen:

• Antworten kritisch gegenlesen: Passen die Antworten auf die Frage und klingen sie plausibel und nachvollziehbar? Wenn Zweifel aufkommen, stellen Sie Nachfragen an den Chatbot.
• Quellen angeben lassen: Fordern Sie den Chatbot auf, die Quellen für die aufgeführten Informationen aufzulisten. Dann lässt sich überprüfen, ob die Quellen aufrufbar sind, ob der Inhalt mit den Quellen übereinstimmt und ob diese vertrauenswürdig sind. Werden in den Quellen Autoren genannt? Ist die Quelle unabhängig?
• Im Zweifel hilft ein Vergleich: Gleichen Sie die Chatbot-Informationen mit anderen vertrauenswürdigen Informationen ab.
• Selbstkontrolle durch die KI: Manchmal kann es hilfreich sein, den Chatbot aufzufordern, die Antwort selbst zu beurteilen, indem Sie fragen, wie hoch die Wahrscheinlichkeit ist, dass die Antwort zutreffend ist, oder indem Sie der KI befehlen, noch einmal nach Fehlern zu suchen und diese zu korrigieren.

Wichtig: Bei Fragen, die Ihre Gesundheit betreffen, kann eine KI-Recherche lediglich eine Unterstützung oder erste Orientierung für Sie sein. Den Besuch beim Arzt kann sie nicht ersetzen.    pm

Info

Alle Informationen zu KI-Chatbots und was man bei der Suche nach Gesundheitsinformationen beachten muss,  hat die Stiftung Gesundheitswissen hier zusammengefast: KI-Chatbots: Worauf muss ich achten?