Co nám Tetris prozradí o tom, jak lidé reagují na nespravedlivou AI

Experiment, v němž dva lidé hráli upravenou verzi Tetrisu – 40 let staré videohry, v níž se na sebe skládáte kostky virtuální stavebnice – ukázal, že hráči, kteří mají méně tahů, vnímají druhého hráče jako méně sympatického, a to bez ohledu na to, zda tahy přiděluje člověk nebo algoritmus.

„Očekávali jsme, že lidem pracujícím v týmu bude záležet na tom, jestli s nimi jiný člověk nebo umělá inteligence zachází nespravedlivě.“

Malte Jung, docent informační vědy na Cornell Ann S. Bowers College of Computing and Information Science, jehož skupina studii provedla.

Tetris jako ukazatel sociální logiky

Většina studií o algoritmické spravedlnosti se zaměřuje na samotný algoritmus nebo rozhodnutí, ale Jung se snažil prozkoumat vztahy mezi lidmi, kterých se rozhodnutí týkají.

„Začínáme se setkávat s mnoha situacemi, kdy umělá inteligence rozhoduje o tom, jak by měly být zdroje rozděleny mezi lidi.“ řekl Jung. „Chceme pochopit, jak to ovlivňuje způsob, jakým se lidé navzájem vnímají a jak se k sobě chovají. Vidíme stále více důkazů o tom, že stroje si zahrávají se způsobem, jakým mezi sebou komunikujeme.“

Houston B. Claure je americký vědec a autor studie The Social Consequences of Machine Allocation Behavior, publikované 27. dubna v časopise Computers in Human Behavior. Claure získal magisterský a doktorský titul v oboru strojního inženýrství, vedlejší obor je informatika.

Jung a Claure provedli dřívější studii, v níž robot vybíral, které osobě dá blok, a studovali reakce jednotlivých osob na rozhodnutí stroje o přidělení.

„Všimli jsme si, že pokaždé, když se zdálo, že robot dává přednost jedné osobě, druhá osoba se rozčílila.“ řekl Jung, ředitel laboratoře Robots in Groups. „Chtěli jsme to studovat dál, protože nás napadlo, že jak se stroje, které rozhodují, stávají stále více součástí světa – ať už je to robot nebo algoritmus – jak se kvůli tomu cítí člověk?“

Vzhledem k časové náročnosti provádění experimentů a analýzy dat pomocí fyzického robota měli Jung a Claure pocit, že existuje lepší a efektivnější způsob, jak tento efekt studovat. Tehdy do hry (a to v tomto případě doslova) vstoupil Tetris – původně vydaný v roce 1984 a dlouho užitečný nástroj pro výzkumníky, kteří chtěli získat základní poznatky o lidském poznávání, sociálním chování a paměti.

„Pokud jde o přidělování zdrojů,“ řekl Claure, „ukázalo se, že Tetris není jen hra – je to mocný nástroj pro získání poznatků o složitém vztahu mezi přidělováním zdrojů, výkonem a sociální dynamikou.“

Experiment, který bude v současné společnosti stále užitečnější

Pomocí open source softwaruvyvinul Claure – nyní postdoktorand na Yaleově univerzitě – verzi hry Tetris pro dva hráče, ve které hráči manipulují s padajícími geometrickými bloky tak, aby je poskládali na sebe a nenechali mezery, než se bloky nahromadí na vrcholu obrazovky. Claureova verze, Co-Tetris, umožňuje dvěma lidem (vždy jednomu) spolupracovat na dokončení každého kola.

Přidělovatel – buď člověk, nebo umělá inteligence, která byla hráčům zprostředkována – určuje, který hráč se ujme každého tahu. Jung a Claure vymysleli svůj experiment tak, aby hráči měli buď 90 % tahů (podmínka více), 10 % (méně), nebo 50 % (stejně).

Výzkumníci předvídatelně zjistili, že ti, kteří dostali méně tahů, si ostře uvědomovali, že jejich partner dostal výrazně více. Překvapilo je však, že pocity z toho byly do značné míry stejné bez ohledu na to, zda alokaci prováděl člověk nebo umělá inteligence.

Jedno obzvlášť zajímavé zjištění: Když alokaci prováděla umělá inteligence, hráč, který dostal více tahů, vnímal svého partnera jako méně dominantního, ale když alokaci prováděl člověk, vnímání dominance to neovlivnilo.

Vliv těchto rozhodnutí vědci označili jako „strojové alokační chování“ – podobně jako zavedený fenomén „chování při přidělování zdrojů“, tedy pozorovatelné chování lidí na základě alokačních rozhodnutí. Jung uvedl, že strojové alokační chování je „koncept, že existuje toto jedinečné chování, které je výsledkem rozhodování stroje o tom, jak něco přidělit“.

Výzkumníci také zjistili, že spravedlnost nevede automaticky k lepšímu hraní her a výkonu. Ve skutečnosti rovné přidělování tahů vedlo v průměru k horšímu skóre než nerovnoměrné přidělování.

„Pokud silný hráč dostane většinu kostek,“ řekl Claure, „jeho tým si povede lépe. A pokud jeden člověk dostane 90 %, nakonec mu to půjde lépe, než když si bloky rozdělí dva průměrní hráči.“

Rene Kizilcec, odborný asistent informační vědy a spoluautor studie, doufá, že tato práce povede k dalšímu výzkumu vlivu rozhodnutí umělé inteligence na lidi – zejména ve scénářích, kdy systémy umělé inteligence rozhodují průběžně, a ne jen jednorázově.

„Nástroje umělé inteligence, jako je ChatGPT, se stále více začleňují do našeho každodenního života, kde si lidé s těmito nástroji postupem času vytvářejí vztahy,“ řekl Kizilcec, „velmi záleží na tom, jak například učitelé, studenti a rodiče přemýšlejí o kompetentnosti a spravedlnosti učitele umělé inteligence na základě jejich interakcí v průběhu týdnů a měsíců.“