Chatbot pro lidi s poruchami příjmu potravy neradil právě ideálně

Americká organizace, která podporuje lidi s poruchami příjmu potravy, pozastavila používání svého chatbota poté, co se objevily zprávy, že svým klientům sdílí škodlivé rady.

Národní asociace pro poruchy příjmu potravy (Neda) nedávno zrušila svou živou linku pomoci a odkázala lidi hledající poradenství na jiné zdroje, včetně chatbota.

Chatot s umělou inteligencí, pojmenovaný Tessa, byl stažen z provozu, uvedla asociace. Nyní bude prošetřovat zprávy o jeho chování.

V posledních týdnech někteří uživatelé sociálních médií zveřejnili na internetu snímky obrazovky se svými zkušenostmi s chatbotem.

Chatboti jsou skvělí – svěřit jim ale 100% pravomoc opravdu ještě nejde

Uvedli, že bot i nadále doporučoval chování, jako je omezování kalorií a diety, a to i poté, co mu bylo sděleno, že uživatel trpí poruchou příjmu potravy.

Podle Americké akademie rodinných lékařů může u pacientů, kteří se již potýkají se stigmatizací své váhy, další povzbuzování ke shazování kilogramů vést k poruchám příjmu potravy, jako je přejídání nebo naopak absolutní vynechávání zdravých dávek jídla..

V prohlášení sdíleném s americkými médii generální ředitelka Nedy Liz Thompsonová uvedla, že rady, které chatbot sdílel, jsou v rozporu se zásadami a základním přesvědčením organizace zabývající se poruchami příjmu potravy.

Sdružení nicméně plánovalo uzavřít svou linku pomoci s lidským personálem k 1. červnu 2023 a propustilo zaměstnance a dobrovolníky, kteří udržovali linku pomoci s informacemi a možnostmi léčby, která byla spuštěna v roce 1999. Úředníci, které citovala agentura NPR, uvedli mezi důvody změny rostoucí právní závazky.

Téměř 10 % Američanů bude během svého života diagnostikováno s poruchou příjmu potravy. Tyto poruchy často vznikají v utajení a léčba může být nákladná nebo v mnoha částech země nedostupná.

S tímto vědomím se Ellen Fitzsimmons-Craftová, profesorka psychiatrie na lékařské fakultě Washingtonské univerzity, a její tým rozhodli vytvořit kognitivně-behaviorální nástroj, který by mohl lidem s poruchami příjmu potravy nabídnout preventivní strategie.

Chatbot, kterého navrhla, měl vycházet z osvědčených intervencí, které se ukázaly jako účinné při snižování poruch příjmu potravy a souvisejícího chování.

Paní Fitzsimmonsová-Craftová a její tým předali loni program společnosti Neda a technologické firmě, aby jej nasadily u klientů. Od té doby se podle ní do původního návrhu dostala chyba, aby algoritmus fungoval podobně jako nedávné nástroje umělé inteligence, jako je ChatGPT. (Neda uvedla, že bot není řízen ChatGPT a nemá stejné funkce).

Nyní je v sázce pověst celé organizace

Abbie Harperová, bývalá pracovnice linky důvěry, řekla britské televizní stanici BBC News, že několik dní poté, co se pracovníci linky důvěry oficiálně sdružili v odborech, jim bylo sděleno, že již nebudou mít práci.

„Uprostřed naší pravidelné páteční schůzky zaměstnanců k nám zaskočil generální ředitel a předseda představenstva, aby nám jen tak mimochodem oznámil, že nás nahradí chatbot a naše pracovní místa budou zrušena, Věděli jsme, že Tessa existuje. Není to ale člověk, který by se věnoval vašemu empatickému aktivnímu naslouchání.“

Abbie Harperová, bývalá pracovnice linky důvěry

Paní Harperová, která se také zotavuje z poruchy příjmu potravy, uvedla, že rozhovor s někým, kdo sdílí její zkušenosti s touto nemocí, byl klíčovým krokem k jejímu zotavení a k boji proti stigmatu a studu, který pociťovala.

Chatot, jak řekla, nemůže v současnosti nabídnout stejnou podporu.