Das Interesse an Informationen über verschriebene Medikamente ist groß, da viele Menschen lieber im Internet nach Antworten suchen, als sich an ihren Arzt oder Apotheker zu wenden. Eine neue Studie zeigt jedoch auf, dass diese Praxis gefährlich sein kann. Laut dieser Untersuchung, die im Fachjournal „BMJ Quality & Safety“ veröffentlicht wurde, sind die Informationen, die von KI-unterstützten Suchmaschinen und Chatbots bereitgestellt werden, oft unzuverlässig.
Die Forscher aus Erlangen warnen davor, dass die Antworten von Chatbots häufig ungenau, unvollständig oder sogar schlecht verständlich sind. Sie empfehlen, für die Nutzer entsprechende Warnhinweise einzuführen, da die Qualität der bereitgestellten Informationen derzeit nicht als sicher und ausreichend angesehen wird, um Entscheidungen über die Medikamenteneinnahme zu treffen.
Wichtige Erkenntnisse der Studie
Wahram Andrikyan, erster Autor der Studie und wissenschaftlicher Mitarbeiter am Institut für Experimentelle und Klinische Pharmakologie und Toxikologie in Erlangen, erläutert, dass es dringend notwendig ist, die Nutzer darauf hinzuweisen, dass die Informationen von Chatbots nicht als Ersatz für professionellen medizinischen Rat dienen können.
Die Idee zu dieser Untersuchung entstand durch das häufige Bedürfnis von Patienten, sich über ihre verschriebenen Medikamente zu informieren. Um dies zu testen, stellte das Forschungsteam dem KI-gestützten Chatbot der Microsoft-Suchmaschine Bing im April 2023 insgesamt zehn häufige Fragen zu den 50 am häufigsten verordneten Medikamenten in den USA. Diese Fragen umfassten Themen wie Einnahme, Nebenwirkungen und mögliche Gegenanzeigen.
Obwohl der Chatbot bei vielen der gestellten Fragen vollständige und genaue Antworten lieferte, gab es Bereiche, in denen die Antworten nicht den Erwartungen entsprachen. „Dies birgt ein Risiko für Patienten, da sie die Genauigkeit und Vollständigkeit der KI-generierten Antworten selbst nicht erkennen können“, führte Andrikyan weiter aus. Dies zeigt auf, wie wichtig es ist, sich nicht ausschließlich auf diese digitalen Hilfsmittel zu verlassen.
Zwar hat sich seit der letzten Untersuchung im vergangenen Jahr viel getan in der Entwicklung von KI-gestützten Suchmaschinen und deren Chatbot-Funktionen, doch die Fortschritte reichen noch nicht aus, um die Bedenken hinsichtlich der Patientensicherheit auszuräumen. Andrikyan ist der Überzeugung, dass die Sicherheit und Qualität auch bei anderen technischen Systemen, die für Gesundheitsfragen eingesetzt werden, rigoros geprüft werden müssen.
Die Diskussion über die Rolle von KI in der Medizin wird durch diese Studie angestoßen, und die Ergebnisse unterstreichen die Notwendigkeit, klare Richtlinien und Empfehlungen für den Umgang mit Informationen aus solchen Technologien zu schaffen. Nutzer sollten sich bewusst sein, dass sie bei Fragen zu ihrer Gesundheit auf verlässliche Quellen zurückgreifen sollten und nicht allein auf die oft ungenauen Informationen von Chatbots vertrauen dürfen.
dpa/cél
