Försiktighet! Chatbots ger opålitlig information om medicinering

Försiktighet! Chatbots ger opålitlig information om medicinering

Erlangen, Deutschland - Den digitala världen öppnar många sätt att få information, särskilt när det gäller hälsoproblem. Idag letar många efter svar på sina frågor om medicinering på internet snarare än läkaren eller apotekaren. En aktuell studie från erlangen väcker emellertid allvarliga oro över hur tillförlitlig denna information kan vara. Detta visar att AI stödde sökmotorer och i synnerhet chatbots ofta ger felaktiga och ofullständiga data.

I denna studie, publicerad i tidskriften "BMJ Quality & Safety", fann forskare runt Truam Andrikyan att svaren på chatbotsna inte uppnår den kvalitet som är nödvändig för säker användning av medicinering. Andrikyan betonar att en tydlig anmärkning är avgörande för att påpeka användarna på gränserna för informationen från chatbots.

otillräcklig information för lekpersoner

Forskarna grundade sin studie om iakttagelsen att många patienter informerar sig om sin medicinering på internet. De ställer frågor om ofta föreskrivna läkemedel och fick sedan svar från den AI-baserade chatboten i Microsoft Search Engine Bing. Dessa undersöktes bland annat om ämnen som intag, biverkningar och kontraindikationer.

Andrikyan beskrev att chattboten ursprungligen levererade resultat som skar bra när det gäller fullständighet och noggrannhet. Det fanns emellertid betydande defekter i specifika undersökningar. Eftersom det ofta är svårt för medicinska lekmän att bedöma informationens kvalitet finns det en potentiell risk för patientsäkerhet. Experten fortsätter att även om framstegen inom AI -tekniken är anmärkningsvärd kan säkerhetsriskerna inte ignoreras.

Ett annat viktigt problem är att chatbots tränas i olika dataposter, som kan variera kvaliteten och säkerheten. En mer omfattande strategi för att utvärdera teknologierna är därför nödvändig för att säkerställa tillförlitlig hälsoinformation.