Voorzichtigheid! Chatbots bieden onbetrouwbare informatie over medicatie

Voorzichtigheid! Chatbots bieden onbetrouwbare informatie over medicatie

Erlangen, Deutschland - De digitale wereld opent vele manieren om informatie te verkrijgen, vooral als het gaat om gezondheidsproblemen. Tegenwoordig zijn veel mensen op zoek naar antwoorden op hun vragen over medicatie op internet in plaats van de arts of apotheker. Een huidige studie van erlangen roept echter ernstige zorgen uit hoe betrouwbaar deze informatie kan zijn. Dit toont aan dat AI zoekmachines en in het bijzonder chatbots ondersteunde, bieden vaak onnauwkeurige en onvolledige gegevens.

In deze studie, gepubliceerd in het tijdschrift "BMJ Quality & Safety", ontdekten wetenschappers rond Truam Andrikyan dat de antwoorden van de chatbots niet de kwaliteit bereiken die nodig is voor het veilige gebruik van medicatie. Andrikyan benadrukt dat een duidelijke notitie essentieel is om de gebruikers te wijzen op de grenzen van de informatie die door chatbots wordt verstrekt.

onvoldoende informatie voor leken

De onderzoekers hebben hun onderzoek gesticht over de observatie dat veel patiënten zich informeren over hun medicatie op internet. Ze stellen vragen over vaak voorgeschreven medicijnen en ontvingen vervolgens antwoorden van de AI-gebaseerde chatbot van de Microsoft Search Engine Bing. Deze werden onder andere onderzocht op onderwerpen zoals inname, bijwerkingen en contra -indicaties.

Andrikyan beschreef dat de chatbot aanvankelijk resultaten leverde die goed snijden in termen van volledigheid en nauwkeurigheid. Er waren echter aanzienlijke defecten in specifieke vragen. Omdat het vaak moeilijk is voor medische leken om de kwaliteit van de informatie te beoordelen, is er een potentieel risico op patiëntveiligheid. De expert gaat verder dat hoewel de vooruitgang in AI -technologie opmerkelijk is, de beveiligingsrisico's niet kunnen worden genegeerd.

Een andere belangrijke zorg is dat chatbots worden getraind in verschillende gegevensrecords, die de kwaliteit en beveiliging kunnen variëren. Een meer uitgebreide aanpak voor het evalueren van de technologieën is daarom noodzakelijk om betrouwbare gezondheidsinformatie te garanderen.