Spoluzakladatel společnosti Anthropic, Jack Clark, přirovnává umělou inteligenci k nevyzpytatelným bytostem a vyzývá k otevřené diskusi o její bezpečnosti.
Jack Clark, spoluzakladatel jednoho z největších hráčů v oblasti umělé inteligence – společnosti Anthropic (tvůrce oblíbených chatbotů Claude) – vzbudil pozornost svou esejí s názvem „Technologický optimismus a přiměřený strach“.
Ve svém textu popisuje obavy z rychlého a nekontrolovaného rozvoje AI. Inženýr, který dříve působil i ve společnosti OpenAI, použil silnou metaforu z dětství – vzpomíná na strach z příšer, které viděl ve tmě svého pokoje, a které se po rozsvícení ukázaly být jen hromadou oblečení.
„Teď, v roce 2025, jsme tím dítětem my – a místností je naše planeta. Ale když rozsvítíme světlo, díváme se na skutečné bytosti v podobě výkonných a trochu nevyzpytatelných systémů AI,“
uvádí Clark.
Podle něj existují lidé, kteří investují obrovské částky, aby veřejnost přesvědčili, že AI je pouze nástroj, který máme plně pod kontrolou.
Clark ale varuje: „Nenechte se zmást. To, s čím máme co do činění, je skutečná a záhadná bytost – ne jednoduchý a předvídatelný stroj.“
Tímto varováním se připojuje k dalším hlasům z oboru, které upozorňují na rizika spojená s technologií, jejímuž fungování nerozumí ani její vlastní tvůrci.
Jeho vyjádření vyvolala i kritiku – například od Davida Sackse, poradce Bílého domu pro umělou inteligenci, který obvinil Anthropic z „šíření strachu“.
Problémem je nepochopení a chybějící regulace
Clark upozorňuje, že „nám rostou extrémně výkonné systémy, kterým úplně nerozumíme“.
S každou novou verzí se AI modely stávají schopnějšími v ekonomicky užitečných úlohách, ale zároveň vykazují znepokojivé známky určitého „sebeuvědomění“.
Problém podle něj není v tom, že by AI úkoly nezvládala, ale v tom, jakým způsobem k nim přistupuje.
Chybí jí lidská schopnost kombinovat logiku s emocemi a kontextovým porozuměním.
Clark nevolá po zastavení vývoje, ale po otevřené a upřímné diskusi.
Vyzývá k transparentnosti a sdílení dat, aby se společnost mohla lépe připravit na budoucí krize.
„Musíme chtít, aby se lidé ptali na věci, z nichž mají úzkost.
Máte obavy o zaměstnanost? Žádejte, ať sdílíme ekonomická data.
Máte strach o duševní zdraví dětí? Žádejte, ať monitorujeme naše platformy a zveřejňujeme data,“
apeluje Clark.
Podle něj je právě tento přístup klíčem k budoucnosti, v níž bude umělá inteligence hrát stále větší roli v našich životech.
Společnost Anthropic se dlouhodobě profiluje jako firma kladoucí důraz na bezpečnost a etiku, což dokládá i pravidelným zveřejňováním výzkumných zpráv a monitorovacích analýz.
