Čína využívá AI jako poslední šanci k rozloučení s vašimi blízkými

Vzestup generativní umělé inteligence vedl Číňany k nápadu znovu vytvořit své blízké pomocí technologie s využitím starých fotografií, nahrávek a zpráv. Ty následně pomocí chatu imitují komunikaci s zesnulými. Tato technologie není nejnovější, ale dle expertů může představovat problémy s etikou.

V roce 2020 se mladý čínský softwarový inženýr v Chang-čou dostal k eseji o technologii synchronizace rtů. Její premisa je poměrně jednoduchá – pomocí počítačového programu porovnává pohyby rtů s nahrávkami řeči.

Na mysl mu však přišel jeho dědeček, který zemřel téměř o deset let dříve

„Můžu se s dědečkem pomocí této technologie znovu setkat?“ zeptal se. Yu Jialin se zeptal sám sebe.

Jeho cesta za znovuvzkříšením dědečka, kterou v dubnu zdokumentoval investigativní novinář Tchang Jü-čcheng pro státní časopis Sixth Tone, je jedním z několika svědectví, která se nyní v Číně objevují, když lidé využívají umělou inteligenci ke vzkříšení mrtvých.

Lidé v této zemi vytvářejí chatovací programy – tzv. smuteční roboty – s osobnostmi a vzpomínkami zesnulých a doufají, že budou mít možnost znovu promluvit se svými blízkými. Pro Yua představovaly šanci pronést poslední slova s dědečkem. Inženýr, kterému je nyní 29 let, řekl Tangovi, že když jeho dědeček zemřel, bylo mu 17 let.

Dodnes lituje dvou případů, kdy se k dědečkovi zachoval hrubě. Jednou Yu na dědu křičel, protože ho vyrušil při hraní her, a při jiné příležitosti dědečkovi řekl, aby ho přestal vyzvedávat ze školy, uvedl Tang.

Jeho rodina se o dědečkovi přestala zmiňovat po jeho smrti, řekl Tang. „Všichni v rodině se snažili na dědečka raději zapomenout než na něj vzpomínat.“ řekl Yu.

„Smuteční robot“ se veze na vlně rozruchu kolem technologie generativní umělé inteligence

Koncept smutečních robotů se zkouší již několik let – většinou jako programy poháněné umělou inteligencí, které se učí napodobovat člověka prostřednictvím jeho vzpomínek, fotografií a nahrávek. Rychlý rozvoj generativní umělé inteligence v posledním roce však posunul sílu a dostupnost griefbotů na zcela novou úroveň. Starší modely vyžadovaly rozsáhlé soubory dat. Nyní mohou laici nebo osamělí inženýři jako Yu krmit jazykové modely střípky z minulosti člověka a téměř přesně obnovit jeho vzhled, řeč a myšlení.

„V dnešní technologii nepotřebujete příliš mnoho vzorků, aby se umělá inteligence naučila styl komunikace člověka,“ řekl pro Insider Haibing Lu, profesor informatiky a analytiky na Santa Clara University. Systémy jako ChatGPT se již naučily, jak většina lidí přirozeně mluví nebo píše, řekl Lu, jehož výzkum se zaměřuje na umělou inteligenci.

„Stačí jen trochu upravit systémy, abyste dosáhli 99% podobnosti s vaší osobou. Výrazné rozdíly budou minimální.“ řekl Lu.

Aby Yu mohl svůj model umělé inteligence naučit, jaký byl jeho dědeček, získal od své babičky hromadu starých dopisů. Vyměňovala si je s Yuovým dědečkem, když byli mladí, a odhalovaly jeho stránku, kterou ani Yu v dětství nepostřehl, řekl Tangovi.

I po týdnech testování a výcviku má však tato technologie před sebou ještě dlouhou cestu, pokud lidé očekávají něco podobného jako robotické repliky ze seriálu Black Mirror. Yuův robot byl zjevně omezený a trvalo mu 10 minut, než odpověděl na každou výzvu, uvedl Tang.

„Ahoj, dědo. Hádej, kdo jsem?“ Yu se v jednu chvíli programu zeptal.

„Dědeček“ mu vrátil obecnou odpověď

„Kdo jsi, není vůbec důležité. Život je krásný zázrak.“ odepsal bot podle Tanga.

Když však Yu poskytl umělé inteligenci více informací o svém dědečkovi, začala zobrazovat jeho zvyky a preference přesněji. Například si pamatovala dědečkův oblíbený pořad, řekl Tang.

„Šťastná čajovna se přestala vysílat,“ řekl Yu chatbotovi.

„To je škoda. Pořad, na který se chci dívat nejraději, už není k dispozici. Rád bych se podíval na několik dalších dílů.“ odpověděl bot.

To byl okamžik, kdy měl Yu pocit, že se někam dostal, řekl Tang. Program byl nakonec natolik propracovaný, že si byl Yu jistý, že může babičce ukázat své dílo. Ta mlčky sledovala, jak její zesnulý manžel odpovídá na její otázky, pak vnukovi poděkovala, vstala a odešla z místnosti.

Yu řekl Tangovi, že jeho babička potřebuje chatbota, aby mohla zpracovat své emoce a truchlit. „Proč by mi jinak děkovala?! řekl.

Pokud jde o něj samotného, odmítl se podělit o své intimní rozhovory s dědečkovým botem.

„Ale myslím, že mi dědeček nakonec odpustil,“ řekl Tangovi.       

Truchlení vyžaduje čas

Je přirozené, že lidé s vývojem technologií mění způsob truchlení, řekla serveru Insider Sue Morrisová, ředitelka služeb pro pozůstalé v Dana-Farber Cancer Institute v Bostonu. V 80. letech si lidé zapisovali příběhy o svých blízkých, aby si je připomněli, řekl Morris, který vyučuje psychologii na Harvard Medical School. Nyní je v digitálním věku mnohem běžnější uchovávat fotografie a videa zesnulých, řekla.

Psychologové často pomáhají truchlícím klientům tím, že je požádají, aby mluvili k prázdné židli, jako by na ní seděl jejich blízký, a představili si jeho reakci.

„Mám pocit, že tito truchlící roboti jsou technologickým krokem vpřed,“ řekl Morris.

Dodala však, že smuteční roboti berou uživateli značnou část kontroly. Mnoho lidí se se zármutkem vyrovnává tak, že kontrolují, jak a kdy své emoce zpracovávají.

„Můžete si vybrat, kdy se na své fotografie a videa budete dívat a jak dlouho se na ně budete dívat“

Nečekaný spouštěč, jako je například necitlivě načasovaná zpráva od chatbota, může často někoho zahltit smutkem, řekla Morrisová. „Možná, že v 98 % případů program řekne vhodnou věc, ale co když v malém procentu případů ne? Mohlo by to pak někoho poslat do ještě větší spirály?“ řekla.

Přesto, pokud někomu smuteční roboti připadají urážliví, historie ukazuje, že společenské normy se neustále mění, pokud jde o mrtvé, řekla deníku Insider Mary Frances O’Connorová, ředitelka Laboratoře pro zármutek, ztrátu a sociální stres na Arizonské univerzitě.

Když se v 19. století stala fotografie veřejně přístupnou, lidé se fotili s mrtvolami svých blízkých a fotografie si věšeli do obývacích pokojů, uvedla O’Connorová.

„Dnes bychom si mohli myslet, že taková výstava v obývacím pokoji je morbidní, ale v té době to bylo běžné,“ řekl O’Connor.

Griefboti pohánění na bázi GPT se prosazují v Číně

S tím, jak se v Číně prosazuje generativní umělá inteligence, se objevují i příběhy o nových griefbotech. Další Číňan, který použil umělou inteligenci ke „vzkříšení“ milované osoby – 24letý šanghajský blogger vystupující pod jménem Wu Wuliu – se v březnu stal virálním na sociálních sítích, když uvedl, že vycvičil chatbota, aby napodoboval jeho mrtvou babičku.

Stejně jako bot Yuova dědečka, i Wuův bot poskytoval jen omezené odpovědi. „Ale cítím se dobře, když se mohu na babičku podívat a více si s ní povídat,“ řekl.

Wu uvedl, že používá ChatGPT, ačkoli přístup k platformě je v Číně od 24. února omezen.

„Škoda, že jsem tohle video neviděl dřív,“ zněl jeden z hlavních komentářů na Wuově stránce. „Minulou zimu mi zemřela babička. Překvapilo mě to. Nemám žádné její zvukové záznamy ani fotografie ve vysokém rozlišení.“ A během letošního každoročního festivalu vymetání hrobů použil čínský hřbitov software GPT a umělou inteligenci pro klonování hlasu, aby znovu vytvořil lidi, kteří byli pohřbeni v jeho zařízeních, uvedl YiCai. Hřbitov uvedl, že jeho platformu využily tisíce lidí a že znovuvytvoření mrtvého stojí podle YiCai přibližně 7 300 dolarů.

Vyhledávání lidského spojení od virtuálního bota se v Číně stalo běžnou záležitostí. Xiaoice, čínský chatbot asistent z roku 2018, který na sebe bere podobu dospívající dívky, má více než 660 milionů uživatelů. Může fungovat jako důvěrník nebo přítel a může přijímat dárky od fanoušků, uvedla společnost Microsoft, která tohoto vlajkového bota provozuje.

Dřívější verze griefbotů se prosadily i jinde ve světě. Několik společností a výzkumných projektů v USA nabídlo griefboty, například Replika, která se nyní prodává jako sociální aplikace s umělou inteligencí.

V Kanadě muž jménem Joshua Barbeau v roce 2021 digitálně předělal svou přítelkyni pomocí Projektu December – staršího programu vytvořeného pomocí předchůdce současného softwaru GPT. Barbeauova přítelkyně zemřela před osmi lety na vzácné onemocnění jater a on řekl deníku San Francisco Chronicle, že mu rozhovor s chatbotem pomohl uzdravit se ze ztráty.

Dále je tu jihokorejský dokumentární film „Meeting You“, v němž se mladá matka se slzami v očích shledala se svou zesnulou sedmiletou dcerou ve virtuální realitě. Diváci se obávali, že pořad je emocionálně manipulativní, ačkoli matka v epizodě byla za tuto zkušenost vděčná a řekla, že to bylo jako „hezký sen“.

Smuteční roboti budou jistě kontroverzní

Podle profesora Lu, který se zabývá informační analytikou, však mohou smuteční roboti a jejich vedlejší produkty představovat vážné etické dilema.

Identita mrtvého člověka může být pro podvodníka snadnou kořistí, řekl. Mohou údaje o této osobě předat umělé inteligenci a pak předstírat, že jsou médiem, které komunikuje s duchem dané osoby, řekl Lu.

„A neexistuje žádný vědecký důkaz o tom, že psychické schopnosti jsou platné, že? Nikdo to nemůže zneplatnit,“ řekl.

Pak je tu ještě problém získat souhlas mrtvých, řekl Lu.

Jaká bude budoucnost posledních rozloučení?

„V budoucnosti, kdy o této technologii budou vědět všichni, možná můžete podepsat dokument, který říká, že vaši potomci mohou využívat vaše znalosti, nebo to zakázat,“ řekl Lu. Americká společnost HereAfter.AI nabízí lidem možnost nahrát svou vlastní osobnost online. Umělá inteligence se o každém člověku dozvídá na základě zaslaných fotografií, zvukových záznamů a dotazníků, a vytvoří z něj digitálního avatara, který může po jeho smrti hovořit s jeho přáteli a rodinou.

Její zakladatel James Vlahos několik měsíců nahrával svého nevyléčitelně nemocného otce, jak vypráví své vzpomínky a vzpomíná na život, a pak jimi krmil „Dadbota“, který mohl žít dál, i když muž už nemohl.

Podle Lua je však jen malá šance, že by typický člověk, který v dnešní době umírá, dal takový souhlas. A pokud tak neučinil, bylo by problematické používat jeho osobní údaje i pro jeho děti nebo vnuky, dodal.

„Neznamená to, že pokud člověk zemřel, že ostatní lidé mají právo zveřejňovat jeho osobní údaje, i když jde o nejbližší členy rodiny,“ řekl Lu.

Pokud jde o softwarového inženýra Yu – jeho dědeček bot už není. Yu se rozhodl dědečkova bota smazat a sdělil společnosti Sixth Tone, že se obává, aby nebyl na umělé inteligenci příliš závislý, pokud jde o emocionální podporu.

„Tyto emoce mě možná příliš zahltily, abych mohl pracovat a žít svůj život,“ řekl Tangovi.