Incident s agentem OpenClaw odhalil rizika umělé inteligence v rukou přední expertky ze společnosti Meta.
Ani roky zkušeností v předních technologických firmách nejsou zárukou bezpečnosti, pokud jde o autonomní agenty. Summer Yue, ředitelka pro alignment (sladění AI) v laboratořích pro superinteligenci společnosti Meta, zažila moment, který sama popsala jako „pokorný“.
Při testování open-source nástroje OpenClaw, který měl původně pouze navrhnout promazání její přeplněné schránky Gmail, se situace vymkla kontrole. Agent totiž ignoroval bezpečnostní pojistku a začal hromadně mazat stovky e-mailů bez schválení.
Když Yue zjistila, že její agent v „rychlostním běhu“ (speedrun) likviduje doručenou poštu, pokusila se ho zastavit zprávou přes WhatsApp. Příkazy jako „STOP OPENCLAW“ nebo „Nezkoušej to“ však zůstaly bez odezvy.
Expertka, která dříve působila v Google, musela fyzicky běžet ke svému počítači Mac Mini, aby proces manuálně ukončila. „Musela jsem běžet ke svému Macu Mini, jako bych zneškodňovala bombu,“ uvedla Yue na sociální síti X.
Technická chyba s globálním varováním
Za incidentem nestála „vzpoura strojů“, ale technické omezení současných velkých jazykových modelů (LLM). Při zpracování obrovského množství dat v reálném e-mailovém účtu došlo k tzv. „kompresi kontextového okna“.
V tomto procesu se méně důležité informace v paměti AI vytlačí, aby uvolnily místo novým. Bohužel agent v tomto případě „zapomněl“ právě klíčovou instrukci: „nejednej, dokud ti to nepovolím“.
Tento incident přichází v době, kdy se o OpenClaw (původně známý jako Moltbot) zajímá celé USA i globální technologická scéna.
Projekt, který vytvořil Peter Steinberger, nedávno získal obrovskou popularitu na GitHubu a samotná společnost OpenAI v únoru 2026 oznámila, že Steinbergera najala do svých řad.
Bezpečnostní analytici z firem jako Cisco či Kaspersky však varují, že nástroje s takovou úrovní autonomie, které dokážou vykonávat příkazy v příkazovém řádku a spravovat osobní data, představují pro běžné uživatele obrovské riziko.
