V éře rychle se rozvíjející umělé inteligence (AI) se objevuje překvapivý fenomén: lidé projevují zdvořilost vůči chatbotům. Ethan Mollick, docent na Pensylvánské univerzitě, provedl neformální průzkum, který odhalil, že téměř polovina respondentů často používá zdvořilostní fráze při komunikaci s AI. Pouze 16 % dotázaných uvedlo, že AI systémům „jen dávají příkazy“.
Tento trend se odráží i v diskuzích na fórech OpenAI, společnosti stojící za ChatGPT. Jeden z uživatelů poznamenal: „Zjišťuji, že používám slova jako prosím a díky s [ChatGPT], protože je to způsob, jakým bych mluvil s reálnou osobou, která mi pomáhá.“
Na první pohled se může zdát zvláštní projevovat laskavost vůči neživému stroji. Vždyť ještě nedávno jsme s automatizovanými systémy komunikovali bez jakýchkoliv úvah o zdvořilosti. Představa někoho, kdo by s přehnanou uctivostí hovořil s bankomatem, by se nám jevila přinejmenším podivná.
Obrázek 1 – DALL-E 3: Robot pracující s člověkem na ISS
Zdvořilá komunikace s chatbotem již není extravagantní
Avšak s příchodem sofistikovaných chatbotů jako je ChatGPT, Claude či Gemini se situace dramaticky změnila. Tyto systémy dokáží komunikovat přirozeně, někdy dokonce i s lidsky znějícími hlasy. Díky tomu se už tolik nepodobají typickým chladným strojům, ale spíše vědomým bytostem. S rostoucí integrací těchto technologií do našeho každodenního života – jako například oznámené partnerství Apple s OpenAI pro integraci ChatGPT do Siri – se otázka, jak s AI interagovat, stává stále naléhavější.
Na internetu se můžeme setkat s mnohými vtipnými poznámkami typu: „Buďte milí k chatbotu, nebo vás AI, až převezme svět, pošle navěky do digitálního vyhnanství.“ Ale existují i seriózní důvody pro zdvořilost vůči AI?
Používání zdvořilých podnětů zvyšuje kvalitu odpovědí
Nedávná studie japonských vědců z Waseda University a RIKEN Center for Advanced Intelligence Project naznačuje, že ano. Výzkumníci zjistili, že použití zdvořilých podnětů může vést k vyšší kvalitě odpovědí od velkých jazykových modelů (LLM), které pohánějí AI chatboty. Studie však také upozorňuje, že přehnaná zdvořilost může paradoxně vést ke zhoršení výkonu modelu. Autoři doporučují držet se „mírné zdvořilosti“, podobně jako v běžné lidské interakci.
Nathan Bos, výzkumník z Johns Hopkins University, který studuje vztahy mezi lidmi a AI, vysvětluje, že používání zdvořilostních frází může mít praktický význam. „Prosím‘ naznačuje, že následuje žádost, což usnadňuje LLM vědět, jak odpovědět,“ říká Bos. Dodává, že tón podnětu může ovlivnit, z jakých zdrojů AI čerpá informace – zdvořilé podněty mohou nasměrovat systém k důvěryhodnějším částem internetu. Dává to smysl, lidé, kteří jsou zdvořilí, spíše budou sečtělí, a tedy budou hledat kvalitní informace.
Zajímavé je, že i podpůrné fráze, jaké by mohl použít trpělivý učitel vůči žákovi, mohou zlepšit výkon chatbota. Výzkumníci z Google DeepMind zjistili, že povzbuzující podněty jako „Pomalu se nadechni a vypracuj mi plán krok za krokem“ zlepšují schopnost LLM řešit matematické úlohy.
Obrázek 2 – DALL-E 3: Člověk komunikující s robotem
Způsob interakce s AI může mít hlubší důsledky na naší osobnost
Zdvořilost k AI tedy může zlepšit její technický výkon. Ale existuje i hlubší důvod pro kultivovanou komunikaci s chatboty. Sherry Turkle, klinická psycholožka a zakladatelka MIT Initiative on Technology and Self, argumentuje, že slušnost k AI je „znamením respektu“ – ne ke stroji, ale k sobě samému. „Jde o vás,“ říká Turkle. Varuje před nebezpečím, abychom si nezvykli na používání hrubého, neuctivého jazyka. To jak budeme komunikovat s AI se totiž může promítnout do toho, jak budeme komunikovat s druhými lidmi. A to si toho ani nemusíme být vědomi.
Tento fenomén již můžeme pozorovat na více úkazech: někteří rodiče si stěžují, že jejich děti, zvyklé křičet příkazy na virtuální asistenty jako Siri a Alexa, projevují vůči druhým osobám méně respektu. Google se pokusil tento problém vyřešit zavedením funkce „Pretty Please“ pro Google Assistant, která má děti povzbuzovat k používání zdvořilého jazyka.
Autumn P. Edwards, profesorka komunikace na Western Michigan University, zdůrazňuje, že naše interakce s AI ovlivní evoluci lidských sociálních norem. „Toto je moment, kdy se můžeme buď zcela přizpůsobit příkazově založené a strojové interakci, nebo můžeme zachovat [naši lidskost] a snažit se integrovat to nejlepší z lidské komunikace do našich dialogů s těmito entitami,“ říká Edwards.
Závěr
S rychlým vývojem generativní AI, včetně pokročilých hlasových a vizuálních schopností, se budeme stále častěji setkávat s velmi realistickými virtuálními osobnostmi. To, co Turkle nazývá našimi „Darwinovými tlačítky“ – evolučním impulsem připisovat vědomí všemu, co vypadá lidsky – bude brzy manipulováno dovedněji než kdy dříve.
Zatímco technologické společnosti mají jasné finanční pobídky k prosazování takových pokroků, psychologické důsledky pro jednotlivce a společnosti zůstávají nejasné. Prozatím se však zdá, že projevování zdvořilosti k AI chatbotům může být prospěšné – nejen pro zlepšení jejich výkonu, ale především pro zachování našich vlastních sociálních dovedností a empatii vůči druhým lidským osobám.
Shrnutí
- Lidé stále častěji projevují zdvořilost vůči AI chatbotům, což může překvapivě zlepšit jejich výkon. Studie ukazují, že mírně zdvořilé podněty vedou k lepším odpovědím AI systémů.
- Zdvořilost k AI může mít praktický význam – pomáhá AI lépe pochopit naše požadavky a může ji nasměrovat k důvěryhodnějším zdrojům informací na internetu.
- Kultivovaná komunikace s AI je důležitá především pro zachování našich vlastních sociálních dovedností. Zvyk být zdvořilý k chatbotům nám pomáhá udržet slušné chování i vůči lidem.
- S rostoucí realistickostí AI systémů je důležité najít rovnováhu mezi efektivní komunikací a zachováním lidskosti. Naše interakce s AI budou formovat budoucí sociální normy.
Zdroj:
- Wright, W. (2024, July 25). Chatbots aren’t sentient, but you should be nice to them anyway. Scientific American. https://www.scientificamerican.com/article/should-you-be-nice-to-ai-chatbots-such-as-chatgpt/
