Eine aktuelle Studie der Universität Erlangen zeigt, dass Chatbots und KI-unterstützte Suchmaschinen oft unzuverlässige Informationen zu Medikamenten bereitstellen. Die Forscher sind besorgt über die vielen ungenauen, unvollständigen und teilweise schwer verständlichen Antworten, die diese Systeme geben. Laut dem Forschungsteam ist es unerlässlich, dass Nutzer*innen gewarnt werden, dass solche Informationen keinen professionellen medizinischen Rat ersetzen können.
Wahram Andrikyan, der Erstautor der Studie, erklärt: „Die Qualität der Chatbot-Antworten ist bislang nicht ausreichend, um eine sichere Anwendung für die Nutzer zu gewährleisten.“ Dies bedeutet, dass es für Laien schwierig sein kann, die Zuverlässigkeit der Informationen zu beurteilen, was potenziell gefährlich sein kann.
Diagnose der Genauigkeit der KI
Die Forscher führten ihre Untersuchung durch, da immer mehr Patienten online nach Informationen zu ihren verschriebenen Medikamenten suchen. Zur Analyse setzten sie den KI-gestützten Chatbot der Microsoft-Suchmaschine Bing im April 2023 zehn häufige Fragen zu den 50 am meisten verschriebenen Medikamenten in den USA vor. Dabei wurden Themen wie Einnahme, Nebenwirkungen und Gegenanzeigen behandelt.
Obwohl der Chatbot in vielen Fällen die Fragen recht vollständig und genau beantwortete, stellte Andrikyan fest, dass es in bestimmten Fällen erhebliche Ungenauigkeiten gab. Dies kann für Patienten riskant sein, da sie als medizinische Laien nicht in der Lage sind, die Qualität der Antworten zu bewerten. Trotz Fortschritten in der KI-Technologie hebt Andrikyan hervor, dass die Risiken für die Patientensicherheit weiterhin bestehen. Daher empfiehlt er eine gründliche Analyse auch anderer technischer Systeme, die ähnliche Dienste anbieten, um deren Sicherheit und Qualität zu evaluieren.
Die Bedenken der Forscher heben die Notwendigkeit hervor, Nutzer deutlich darauf hinzuweisen, dass die von Chatbots bereitgestellten Informationen nicht als Ersatz für professionelle medizinische Beratung dienen sollten. Es bleibt abzuwarten, ob und wie diese Empfehlungen von den Technologieentwicklern und im Gesundheitssektor umgesetzt werden, um die Sicherheit der Patienten zu gewährleisten.
Eine tiefere Analyse der Ergebnisse bietet www.infranken.de.
