Pozor! Chatboti zagotavljajo nezanesljive informacije o zdravilih

Pozor! Chatboti zagotavljajo nezanesljive informacije o zdravilih

Erlangen, Deutschland - Digitalni svet odpira veliko načinov za pridobivanje informacij, zlasti ko gre za zdravstvene težave. Danes veliko ljudi išče odgovore na svoja vprašanja o zdravilih na internetu in ne o zdravniku ali farmacevtu. Vendar se trenutna študija Erlangena resno pomisli, kako zanesljivi so lahko te informacije. To kaže, da iskalniki, ki podpirajo AI, in zlasti chatboti pogosto zagotavljajo netočne in nepopolne podatke.

V tej raziskavi, objavljena v reviji "BMJ Kakovost in varnost", so znanstveniki okoli Truama Andrikyana ugotovili, da odgovori chatbotov ne dosegajo kakovosti, ki je potrebna za varno uporabo zdravil. Andrikyan poudarja, da je jasna opomba bistvena, da uporabnike opozori na meje informacij, ki jih ponujajo chatbots.

neustrezne informacije za laike

Raziskovalci so ustanovili svojo študijo o opazovanju, da se mnogi pacienti obveščajo o svojih zdravilih na internetu. Zastavljajo vprašanja o pogosto predpisanih zdravilih in nato prejemajo odgovore iz klepeta na osnovi AI Microsoftovega iskalnika Binga. Te so med drugim preučili na temah, kot so vnos, neželeni učinki in kontraindikacije.

Andrikyan je opisal, da je klepet bot sprva dal rezultate, ki so se dobro zmanjšali glede na popolnosti in natančnosti. Vendar je bilo v posebnih poizvedbah veliko napak. Ker je medicinski laiki pogosto težko oceniti kakovost informacij, obstaja potencialno tveganje za varnost pacientov. Strokovnjak nadaljuje, da čeprav je napredek v tehnologiji AI izjemen, varnostnih tveganj ni mogoče prezreti.

Druga pomembna skrb je, da so chatboti usposobljeni za različne evidence podatkov, ki bi lahko spreminjali kakovost in varnost. Za zagotovitev zanesljivih zdravstvenih informacij je torej potreben celovitejši pristop k oceni tehnologij.