Forsiktighet! Chatbots gir upålitelig informasjon om medisiner

Forsiktighet! Chatbots gir upålitelig informasjon om medisiner

Erlangen, Deutschland - Den digitale verden åpner for mange måter å få informasjon på, spesielt når det gjelder helseproblemer. I dag er det mange som leter etter svar på spørsmålene sine om medisiner på internett i stedet for legen eller farmasøyten. En aktuell studie fra erlangen vekker imidlertid alvorlige bekymringer hvor pålitelig denne informasjonen kan være. Dette viser at AI støttet søkemotorer og spesielt chatbots ofte gir unøyaktige og ufullstendige data.

I denne studien, publisert i tidsskriftet "BMJ Quality & Safety", fant forskere rundt Truam Andrikyan at svarene på chatbots ikke oppnår kvaliteten som er nødvendig for sikker bruk av medisiner. Andrikyan understreker at en klar merknad er viktig for å påpeke brukerne på grensene for informasjonen som gis av chatbots.

Mangelfull informasjon for lekfolk

Forskerne grunnla sin studie om observasjonen at mange pasienter informerer seg om medisinene sine på internett. De stiller spørsmål om ofte foreskrevne medisiner og mottok deretter svar fra den AI-baserte chatbot til Microsoft Search Engine Bing. Disse ble blant annet undersøkt om temaer som inntak, bivirkninger og kontraindikasjoner.

Andrikyan beskrev at chat -bot opprinnelig leverte resultater som kuttet godt når det gjelder fullstendighet og nøyaktighet. Imidlertid var det betydelige mangler i spesifikke henvendelser. Siden det ofte er vanskelig for medisinske lekfolk å vurdere kvaliteten på informasjonen, er det en potensiell risiko for pasientsikkerhet. Eksperten fortsetter at selv om fremdriften i AI -teknologi er bemerkelsesverdig, kan ikke sikkerhetsrisikoen ignoreres.

En annen viktig bekymring er at chatbots er opplært i forskjellige dataregistreringer, noe som kan variere kvaliteten og sikkerheten. En mer omfattende tilnærming til å evaluere teknologiene er derfor nødvendig for å sikre pålitelig helseinformasjon.