Oprez! Chatboti daju nepouzdane informacije o lijekovima

Oprez! Chatboti daju nepouzdane informacije o lijekovima

Erlangen, Deutschland - Digitalni svijet otvara više načina za dobivanje informacija, posebno kada je riječ o zdravstvenim problemima. Danas mnogi ljudi traže odgovore na svoja pitanja o lijekovima na Internetu, a ne liječniku ili ljekarniku. Međutim, trenutna studija iz Erlangena izaziva ozbiljnu zabrinutost koliko su ove informacije pouzdane. To pokazuje da AI podržava tražilice, a posebno chatboti često pružaju netočne i nepotpune podatke.

U ovoj studiji, objavljenom u časopisu "BMJ kvaliteta i sigurnost", znanstvenici oko Truam Andrikyan otkrili su da odgovori chatbota ne postižu kvalitetu koja je potrebna za sigurnu upotrebu lijekova. Andrikyan naglašava da je jasna napomena ključna za ukazivanje na korisnike na granicama informacija koje su dali chatbots.

Neadekvatne informacije za laike

Istraživači su osnovali svoju studiju o opažanju da se mnogi pacijenti informiraju o svojim lijekovima na Internetu. Postavljaju pitanja o često propisanim lijekovima, a zatim su dobili odgovore od AI chatbota Microsoftove tražilice Bing. Oni su, između ostalog, ispitani o temama kao što su unos, nuspojave i kontraindikacije.

Andrikyan je opisao da je chat bot u početku dao rezultate koji su se dobro smanjili u smislu potpunosti i točnosti. Međutim, bilo je značajnih nedostataka u određenim upitima. Budući da je medicinskim laicima često teško procijeniti kvalitetu informacija, postoji potencijalni rizik od sigurnosti pacijenata. Stručnjak nastavlja da, iako je napredak u AI tehnologiji izvanredan, sigurnosni rizici ne mogu se zanemariti.

Još jedna važna briga je da su chatboti osposobljeni u različitim podacima, što bi moglo mijenjati kvalitetu i sigurnost. Stoga je sveobuhvatniji pristup ocjenjivanju tehnologija potreban kako bi se osigurale pouzdane zdravstvene informacije.