Pozor! Chatbots poskytují nespolehlivé informace o lécích

Pozor! Chatbots poskytují nespolehlivé informace o lécích

Erlangen, Deutschland - Digitální svět otevírá mnoho způsobů, jak získat informace, zejména pokud jde o zdravotní problémy. Dnes mnoho lidí hledá odpovědi na své otázky týkající se léků na internetu spíše než na lékaře nebo lékárníka. Aktuální studie z Erlangenu však vyvolává vážné obavy, jak spolehlivé mohou být tyto informace. To ukazuje, že vyhledávače podporované AI a zejména chatboty často poskytují nepřesná a neúplná data.

V této studii, publikované v časopise „BMJ kvalita a bezpečnost“, vědci kolem Truamu Andrikyana zjistili, že odpovědi chatbotů nedosáhnou kvality, která je nezbytná pro bezpečné užívání léků. Andrikyan zdůrazňuje, že jasná poznámka je nezbytná pro poukázání na uživatele na limitch informací poskytnutých Chatboty.

Nedostatečné informace pro Laypersons

Vědci založili svou studii o pozorování, že mnoho pacientů se o svých lécích na internetu informuje. Ptají se na často předepsané léky a poté obdrželi odpovědi od chatbota AI založeného na vyhledávači Microsoft Bing. Ty byly mimo jiné zkoumány na témata, jako je příjem, vedlejší účinky a kontraindikace.

Andrikyan popsal, že chatový bot původně přinesl výsledky, které dobře snížily, pokud jde o úplnost a přesnost. Ve specifických dotazech však existovaly značné vady. Protože je pro lékařské laiky často obtížné posoudit kvalitu informací, existuje potenciální riziko bezpečnosti pacienta. Odborník pokračuje v tom, že ačkoli je pokrok v technologii AI pozoruhodný, bezpečnostní rizika nelze ignorovat.

Dalším důležitým problémem je, že chatboti jsou vyškoleni v různých datových záznamech, které by mohly změnit kvalitu a bezpečnost. K zajištění spolehlivých zdravotních informací je proto nezbytný komplexnější přístup k hodnocení technologií.