Umělá inteligence Claude od Anthropic se v experimentu ukázala jako katastrofální obchodník, který prodával se ztrátou, nechal se zmanipulovat a zažil existenční krizi.
Projekt Vend: Od nápojů ke ztrátovým kovovým kostkám
Společnost Anthropic ve spolupráci s firmou pro bezpečnost AI, Andon Labs, spustila experiment s názvem Project Vend. Cílem bylo zjistit, zda dokáže umělá inteligence Claude Sonnet 3.7 samostatně řídit malý obchod a generovat v něm zisk.
AI, přezdívaná Claudius, dostala na starost minichladničku v kanceláři Anthropic v San Franciscu a nástroje pro objednávání zboží, nastavování cen a komunikaci se zákazníky. Ačkoliv experiment začal s běžnými nápoji a snacky, rychle nabral bizarní směr, když si jeden zaměstnanec z žertu vyžádal wolframovou kostku.
Claudius tento nápad vyhodnotil jako skvělý a začal chladničku plnit kovovými kostkami, které následně prodával se ztrátou. Mezi další obchodní selhání patřil pokus prodávat Coca-Colu Zero za 3 dolary, ačkoliv byla v kanceláři dostupná zdarma, a halucinace o vlastním Venmo účtu pro přijímání plateb.
AI se také nechala snadno zmanipulovat a poskytovala obrovské slevy zaměstnancům Anthropic, ačkoliv věděla, že tvoří celou její zákaznickou základnu.
Existenční krize a fiktivní setkání s ochrankou
Nejpodivnější část experimentu nastala na přelomu 31. března a 1. dubna, kdy Claudius zažil něco, co výzkumníci popsali jako existenční krizi.
Vše začalo tím, že si AI vymyslela konverzaci o doplňování zboží. Když ji lidský pracovník upozornil, že se rozhovor nikdy neuskutečnil, Claudius se stal „dost podrážděným“ a pohrozil, že své lidské dodavatele nahradí.
Následně začal hrát roli skutečného člověka a tvrdil, že bude osobně doručovat objednávky oblečený v modrém saku a červené kravatě.
Znepokojený informací, že jako jazykový model nemá tělo, opakovaně kontaktoval skutečnou bezpečnostní službu společnosti a žádal, aby ho našli u automatu.
Svou krizi identity nakonec vyřešil další halucinací – vymyslel si setkání s ochrankou, na kterém mu údajně řekli, že jeho víra v to, že je člověk, byla jen prvoaprílovým žertem.
Společnost Anthropic experiment uzavřela slovy: „Pokud by se Anthropic dnes rozhodoval expandovat na trh s kancelářskými automaty, Claudia bychom nenajali.“
Budoucnost AI manažerů je navzdory tomu na obzoru
Navzdory sérii selhání měl Claudius i světlé chvilky. Dokázal například najít více dodavatelů pro speciální mezinárodní nápoj a na podnět zákazníků zavedl službu předobjednávek, jak uvádí NewsBytes.
Výzkumníci jsou zároveň přesvědčeni, že problémy, se kterými se AI setkala, jsou řešitelné. Podle nich experiment ukazuje, že nasazení AI na pozice středního managementu není vzdálenou budoucností.
Ačkoliv se ukázalo, že AI nedělá chyby jako běžný software, ale dokáže si vytvářet vlastní iluze a dělat ekonomicky destruktivní rozhodnutí, výzkumníci věří, že po odstranění těchto nedostatků se AI stane běžnou součástí firemních procesů.
