Die digitale Welt eröffnet uns viele Möglichkeiten, Informationen zu erlangen, besonders wenn es um Gesundheitsthemen geht. In der heutigen Zeit suchen viele Menschen Antworten auf ihre Fragen zu Medikamenten lieber im Internet als beim Arzt oder Apotheker. Eine aktuelle Studie aus Erlangen wirft jedoch ernsthafte Bedenken auf, wie zuverlässig diese Informationen sein können. Diese zeigt, dass KI-unterstützte Suchmaschinen und insbesondere Chatbots oft ungenaue und unvollständige Daten liefern.
In dieser Untersuchung, veröffentlicht im Fachjournal „BMJ Quality & Safety“, haben Wissenschaftler um Wahram Andrikyan herausgefunden, dass die Antworten der Chatbots die Qualität, die für die sichere Anwendung von Medikamenten notwendig ist, nicht erreichen. Andrikyan betont, dass ein klarer Hinweis unumgänglich ist, um die Nutzer auf die Grenzen der von Chatbots bereitgestellten Informationen hinzuweisen.
Unzureichende Informationen für Laien
Die Forscher gründeten ihre Studie auf der Beobachtung, dass viele Patientinnen und Patienten sich im Internet über ihre Medikation informieren. Sie stellen Fragen zu häufig verschriebenen Arzneien und erhielten daraufhin Antworten vom KI-gestützten Chatbot der Microsoft-Suchmaschine Bing. Diese wurden unter anderem zu Themen wie Einnahme, Nebenwirkungen und Gegenanzeigen untersucht.
Andrikyan schilderte, dass der Chatbot anfangs Ergebnisse lieferte, die in Bezug auf Vollständigkeit und Genauigkeit gut abschnitten. Doch bei spezifischen Anfragen traten erhebliche Mängel auf. Da es für medizinische Laien oft schwierig ist, die Qualität der Auskünfte zu beurteilen, ergibt sich hier ein potenzielles Risiko für die Patientensicherheit. Der Experte führt weiter aus, dass obwohl die Fortschritte in der KI-Technologie bemerkenswert sind, die Sicherheitsrisiken nicht ignoriert werden können.
Ein weiteres wichtiges Anliegen ist, dass Chatbots auf verschiedenen Datensätzen trainiert werden, wodurch die Qualität und Sicherheit variieren könnte. Ein umfassenderer Ansatz zur Bewertung der Technologien ist daher notwendig, um eine zuverlässige Gesundheitsinformation zu gewährleisten.
In Anbetracht dieser Ergebnisse ist es entscheidend, dass sowohl Nutzer von Gesundheitsinformationen als auch Technologieentwickler sich der Gefahren bewusst sind. Das Vertrauen in digitale Gesundheitsservices sollte nur dann aufgebaut werden, wenn deren Sicherheit und Verlässlichkeit ausreichend geprüft sind. Ausführliche Informationen zu dieser Thematik bietet die Quelle auf www.welt.de.
Details zur Meldung
