Ostrożność! Chatboty dostarczają niewiarygodnych informacji o lekach

Ostrożność! Chatboty dostarczają niewiarygodnych informacji o lekach

Erlangen, Deutschland - Świat cyfrowy otwiera wiele sposobów uzyskania informacji, szczególnie jeśli chodzi o problemy zdrowotne. Dzisiaj wiele osób szuka odpowiedzi na pytania dotyczące leków w Internecie, a nie lekarza lub farmaceucie. Jednak obecne badanie erlangen budzi poważne obawy, jak wiarygodne mogą być te informacje. To pokazuje, że sztuczna inteligencja obsługiwała wyszukiwarki, aw szczególności chatboty często dostarczają niedokładnych i niekompletnych danych.

W tym badaniu, opublikowanym w czasopiśmie „BMJ Quality & Safety”, naukowcy z Truam Andrikyan stwierdzili, że odpowiedzi chatbotów nie osiągają jakości niezbędnej do bezpiecznego stosowania leków. Andrikyan podkreśla, że wyraźna notatka jest niezbędna, aby wskazać użytkowników na granicach informacji dostarczonych przez chatboty.

nieodpowiednie informacje dla laypersonów

Naukowcy założyli swoje badanie na temat obserwacji, że wielu pacjentów informuje się o swoich lekach w Internecie. Zadają pytania dotyczące często przepisywanych leków, a następnie otrzymują odpowiedzi od chatbota opartego na sztucznej inteligencji z wyszukiwarki Microsoft Bing. Zostały one zbadane między innymi na takie tematy, jak spożycie, skutki uboczne i przeciwwskazania.

Andrikyan opisał, że bot czatu początkowo dostarczył wyniki, które dobrze ograniczają pod względem kompletności i dokładności. Jednak w określonych zapytaniach istniały znaczne wady. Ponieważ lokalom medycznym często trudno jest ocenić jakość informacji, istnieje potencjalne ryzyko bezpieczeństwa pacjentów. Ekspert kontynuuje, że chociaż postęp w technologii AI jest niezwykły, ryzyka bezpieczeństwa nie można zignorować.

Innym ważnym problemem jest to, że chatboty są przeszkoleni w różnych rekordach danych, które mogą zmienić jakość i bezpieczeństwo. Bardziej kompleksowe podejście do oceny technologii jest zatem konieczne, aby zapewnić wiarygodne informacje zdrowotne.