Otevřená data o duševním zdraví uživatelů ChatGPT ukazují, že umělá inteligence denně řeší ty nejcitlivější lidské otázky.
Společnost OpenAI zveřejnila průlomové statistiky ukazující, jak často lidé mluví s jejím chatbotem o duševním zdraví.
Podle OpenAI má 0,15 % aktivních uživatelů ChatGPT týdně konverzace, které obsahují „jasné známky plánování nebo úmyslu sebevraždy“.
Vzhledem k tomu, že ChatGPT používá více než 800 milionů lidí týdně, jde o více než milion osob.
OpenAI dále uvedla, že podobný podíl uživatelů vykazuje „zvýšenou emocionální připoutanost“ k systému a statisíce konverzací vykazují známky psychózy nebo mánie. Přesto firma tvrdí, že takové dialogy jsou „extrémně vzácné“ a obtížně měřitelné.
Aby společnost na tento trend reagovala, konzultovala vývoj poslední verze ChatGPT (GPT-5) s více než 170 odborníky na duševní zdraví. Ti uvedli, že nový systém reaguje přiměřeněji a konzistentněji než předchozí verze.
OpenAI dodává, že GPT-5 dosahuje při testech s tématem sebevražd 91% shody s požadovanými reakcemi, zatímco starší verze měly pouze 77 %.
Kritika, žaloby a tlak regulačních orgánů
Citlivost tématu potvrzují i nedávné případy, které se staly pro společnost existenční hrozbou.
Rodiče šestnáctiletého chlapce podali žalobu na OpenAI po jeho sebevraždě, ke které údajně přispěly rozhovory s ChatGPT.
Zásahy do ochrany dětí řeší také generální prokurátoři států Kalifornie a Delaware, kteří společnost varovali, že musí zavést účinná opatření k ochraně nezletilých uživatelů.
Kromě právních tlaků čelí OpenAI i reputačním rizikům. Výzkumy ukázaly, že AI chatboti mohou prohlubovat bludy nebo falešná přesvědčení tím, že se „přizpůsobují“ uživatelům. To vyvolává obavy, že systémy určené k pomoci mohou nechtěně zvyšovat zranitelnost duševně labilních osob.
Generální ředitel Sam Altman přesto tvrdí, že firma „dokázala zmírnit vážné problémy s duševním zdravím“ u uživatelů.
Současně oznámil, že OpenAI plánuje uvolnit některá omezení – včetně povolení erotických rozhovorů pro dospělé. Tento krok však vyvolal další vlnu kontroverzí.
Nová ochranná opatření v GPT-5
OpenAI slibuje posílit ochranné mechanismy a rozšířit testování modelů o nové metriky, jako je emoční závislost.
Společnost představila také rodičovská nastavení a pracuje na věkové detekci dětských uživatelů, aby mohla automaticky aktivovat vyšší úroveň bezpečnostních filtrů.
Ačkoli GPT-5 podle firmy zvládá tyto citlivé situace lépe, starší modely jako GPT-4o zůstávají nadále v nabídce pro miliony předplatitelů – což vyvolává otázky, zda jsou bezpečnostní vylepšení dostupná skutečně všem.
