Forsigtighed! Chatbots giver upålidelige oplysninger om medicin

Forsigtighed! Chatbots giver upålidelige oplysninger om medicin

Erlangen, Deutschland - Den digitale verden åbner mange måder at få information på, især når det kommer til sundhedsspørgsmål. I dag leder mange mennesker efter svar på deres spørgsmål om medicin på internettet snarere end lægen eller farmaceut. Imidlertid rejser en aktuel undersøgelse fra erlangen alvorlige bekymringer, hvor pålidelige disse oplysninger kan være. Dette viser, at AI understøttede søgemaskiner og især chatbots ofte giver unøjagtige og ufuldstændige data.

I denne undersøgelse, der blev offentliggjort i tidsskriftet "BMJ Quality & Safety", fandt forskere omkring Truam Andrikyan, at svarene på chatbots ikke opnår den kvalitet, der er nødvendig for sikker brug af medicin. Andrikyan understreger, at en klar note er vigtig for at påpege brugerne på grænserne for de oplysninger, der leveres af Chatbots.

Utilstrækkelig information til lægpersoner

Forskerne grundlagde deres undersøgelse af observationen, at mange patienter informerer sig selv om deres medicin på Internettet. De stiller spørgsmål om ofte ordinerede medicin og modtog derefter svar fra den AI-baserede chatbot fra Microsoft Search Engine Bing. Disse blev blandt andet undersøgt om emner som indtagelse, bivirkninger og kontraindikationer.

Andrikyan beskrev, at chatboten oprindeligt leverede resultater, der skar godt med hensyn til fuldstændighed og nøjagtighed. Der var dog betydelige mangler i specifikke undersøgelser. Da det ofte er vanskeligt for medicinske lægfolk at vurdere kvaliteten af informationen, er der en potentiel risiko for patientsikkerhed. Eksperten fortsætter, at selv om fremskridtene inden for AI -teknologi er bemærkelsesværdig, kan sikkerhedsrisici ikke ignoreres.

En anden vigtig bekymring er, at chatbots trænes i forskellige dataregistreringer, hvilket kan variere kvaliteten og sikkerheden. En mere omfattende tilgang til evaluering af teknologierne er derfor nødvendig for at sikre pålidelige sundhedsoplysninger.