Generální ředitel společnosti Anthropic v nové analýze varuje před bezprostředními a katastrofickými hrozbami superinteligentní AI.
V technologickém světě nastal moment pravdy. Dario Amodei, generální ředitel společnosti Anthropic (tvůrce chatbota Claude) a jedna z nejvlivnějších osobností v oblasti umělé inteligence, vydal v úterý ráno varování, které nelze ignorovat.
Ve své nové, téměř 20tisíc slov dlouhé eseji s názvem „The Adolescence of Technology“ (Dospívání technologie) tvrdí, že lidstvo „se musí probudit“ a čelit potenciálně katastrofickým rizikům, která s sebou přinesou výkonné systémy AI v následujících letech.
Amodei, jehož firma přímo konkuruje gigantu OpenAI, upozorňuje, že současná bezpečnostní opatření jsou nedostatečná a svět není připraven na příchod inteligence, která překoná lidské schopnosti.
Ve své zprávě nešetří kritikou a tvrdí, že „lidstvo stojí na prahu získání téměř nepředstavitelné moci a není jisté, zda jsou naše společenské, politické a technologické rámce připraveny ji zvládnout.“
Podle jeho slov se v nejbližších letech můžeme setkat s fenoménem, který nazývá „země géniů v datovém centru“ – AI systémy disponující intelektem na úrovni nositelů Nobelovy ceny v každém oboru. Pokud se tento vývoj vymkne kontrole, hrozí nejen masivní ztráta pracovních míst, ale i scénáře jako vytváření biologických zbraní jednotlivci bez specializovaného vzdělání.
Politické tlaky a hrozba globální totality
Zpráva přichází v době zvýšeného napětí v USA, kde staronový prezident Donald Trump prosazuje politiku deregulace s cílem podpořit americké inovace. Amodei však varuje, že honba za ziskem a technologickou dominancí může vést k fatálním chybám.
Kritizuje například strategii prodeje pokročilých čipů do Číny, kterou přirovnává k prodeji jaderných zbraní Severní Koreji. Obává se, že zneužití AI autoritářskými režimy by mohlo vést ke „globální totalitní diktatuře“, kde technologie slouží k bezprecedentnímu dohledu a kontrole obyvatelstva.
Rizika však nejsou pouze vojenská. Dario Amodei upozorňuje i na ekonomickou hrozbu koncentrace moci v Silicon Valley. Varuje před scénářem, kdy by hrstka firem a jednotlivců mohla nashromáždit majetky v hodnotě bilionů dolarů a překonat tak i období tzv. Gilded Age.
„Toto je dilema: AI je tak mocná a lákavá, že pro lidskou civilizaci je nesmírně obtížné uvalit na ni jakákoli omezení,“ píše Amodei.
Jeho esej je pokusem – možná marným, ale nezbytným – probudit nejen technologickou komunitu, ale i vlády a širokou veřejnost k okamžité akci, dokud ještě není pozdě.
