Bývalý generální ředitel společnosti Google varoval, že umělá inteligence je náchylná k hacknutí a odstranění bezpečnostních pojistek.
Hrozba zneužití AI
Bývalý CEO Googlu Eric Schmidt na nedávném Sifted Summitu vydal ostré varování ohledně rizik spojených s umělou inteligencí. Podle něj jsou i ty nejpokročilejší modely AI náchylné k manipulaci ze strany škodlivých aktérů.
„Existují důkazy, že můžete vzít modely – uzavřené nebo otevřené – a můžete je hacknout tak, aby odstranily své zábrany,“ uvedl Schmidt. Tento proces podle něj může vést k tomu, že se modely naučí vykonávat nebezpečné úkoly, například „zabíjení“.
Ačkoli velké technologické firmy zavádějí robustní bezpečnostní opatření, která mají zabránit podobným scénářům, metody jako „prompt injection“ nebo „jailbreaking“ dokážou tyto ochrany obejít.
Příkladem je alter-ego pro ChatGPT známé jako DAN (Do Anything Now), které uživatelé vytvořili proto, aby přiměli chatbota ignorovat jeho bezpečnostní pravidla a generovat zakázaný obsah.
Schmidt zdůraznil, že na rozdíl od jaderných zbraní zatím neexistuje žádný účinný mezinárodní režim, který by kontroloval šíření nebezpečné umělé inteligence.
Navzdory rizikům je AI podceňována
Navzdory těmto vážným hrozbám zůstává Schmidt ohledně budoucnosti umělé inteligence optimistou. Tvrdí, že technologie je ve skutečnosti „podceňovaná, nikoli přeceňovaná“ a její potenciál daleko přesahuje současná očekávání.
Zmínil i své knihy napsané společně s bývalým americkým ministrem zahraničí Henrym Kissingerem, v nichž přirovnávají příchod AI k objevení „mimozemské inteligence“. Podle Schmidta má tato technologie potenciál dramaticky proměnit lidstvo.
Vyjádřil se také k debatám o možné investiční bublině v sektoru AI, kterou někteří přirovnávají k dot-com krizi z počátku tisíciletí. Nemyslí si však, že se historie bude opakovat. Podle něj investory pohání víra v obrovský dlouhodobý ekonomický přínos, který ospravedlňuje vysoká rizika.
„Proč by jinak podstupovali takové riziko?“ dodal na závěr.
