So schlecht sind Chatbots bei Medikamentenfragen

© Armmy Picca - stock.adobe.com

Das dürfte Apotheker:innen, die auf Beratung setzen, freuen: Forscher:innen warnen vor unzuverlässigen Informationen von Chatbots zu Medikamenten. Die Antworten seien unvollständig und schlecht verständlich.

Wissenschafter:innen raten zu Vorsicht bei Arzneimittelinformationen aus dem Internet und fordern Warnhinweise bei Chatbots für die Nutzer:innen. Ausgangspunkt ist eine Studie von klinischen Pharmakolog:innen der Friedrich-Alexander-Universität Erlangen-Nürnberg. Die Forscher:innen haben die Studie mit dem Chatbot „Bing“ von Microsoft durchgeführt und ihre Ergebnisse im Fachjournal „BMJ Quality & Safety“ veröffentlicht. Der Google-Chatbot „Gemini“ schied für die Studie aus, da er sich regelmäßig weigere, medizinische Fragen zu beantworten. Da Chatbots jedoch mit unterschiedlichen Datensätzen trainiert werden, hält Wahram Andrikyan vom Institut für Experimentelle und Klinische Pharmakologie und Toxikologie der Universität Erlangen es für sinnvoll, die Sicherheit und Qualität anderer technischer Systeme ebenfalls zu untersuchen.

Ausgangsbasis ist die Erfahrung, dass sich Patient:innen im Internet über verschriebene Medikamente informieren. Deshalb stellten die Forscher einem KI-gestützten Chatbot 500 häufige Patient:innen-Fragen zu 50 Medikamenten, darunter Fragen zur Einnahme, zu Nebenwirkungen oder Gegenanzeigen.

Generell habe der Chatbot die Fragen mit hoher Vollständigkeit und Genauigkeit beantwortet, heißt es. Doch bei manchen Fragen sei das nicht der Fall gewesen. „Dies birgt ein Risiko für Patient:innen, da sie als medizinische Laien die Genauigkeit und Vollständigkeit der KI-generierten Antworten selbst nicht einschätzen können“, warnt Wahram Andrikyan. Die Untersuchung habe gezeigt, dass die Qualität der Chatbot-Antworten bislang nicht zur sicheren Anwendung für Nutzer ausreichend sei. (red)

Service: Publikation