Válka na Ukrajině, která začala ruskou invazí v roce 2022, je nejen klasickým vojenským konfliktem, ale také příkladem moderní hybridní války. Tento styl války kombinuje tradiční vojenské operace s nepřímými metodami, jako jsou kybernetické útoky, dezinformační kampaně a politické podvratné činnosti. Rusko systematicky využívá nejen vojenské síly, ale i různé formy psychologického boje a informační války, aby ovlivnilo veřejné mínění a destabilizovalo politické struktury nejen na Ukrajině, ale i v zemích podporujících Ukrajinu.
V tomto kontextu se stává klíčovým nástrojem generativní umělá inteligence, kterou Rusko nasazuje v online dezinformačních kampaních s cílem zmást a manipulovat lidi. Naštěstí ale podle nové bezpečnostní zprávy od společnosti Meta nejsou jejich snahy úspěšné.
Potlačení dezinformační kampaně
Mateřská společnost Facebooku a Instagramu zjistila, že dosavadní taktiky využívající umělou inteligenci přinášejí „pouze minimální produktivitu a zlepšení v tvorbě obsahu“ pro aktéry se zlými úmysly a Meta se úspěšně daří narušovat operace zaměřené na šíření klamných informací.
Snahy Mety bojovat proti „koordinovanému neautentickému chování“ na svých platformách přicházejí v době, kdy se zvyšují obavy, že generativní AI bude zneužita k matení a manipulaci lidí během voleb ve Spojených státech a dalších zemích.
Rusko zůstává hlavním zdrojem „koordinovaného neautentického chování“ prostřednictvím falešných účtů na Facebooku a Instagramu, uvedl David Agranovich, ředitel bezpečnostní politiky Meta. Podle zprávy, od ruské invaze na Ukrajinu v roce 2022 se tyto snahy soustředily na podrývání Ukrajiny a jejích spojenců.
Obrázek 1 – DALL-E 3: Kovbojská analogická scéna sociálních sítí
Obavy z ovlivnění amerických voleb
S blížícími se americkými volbami Meta očekává, že Ruskem podporované dezinformační kampaně budou zaměřeny na politické kandidáty, kteří podporují Ukrajinu.
Facebook byl léta obviňován z toho, že slouží jako silná platforma pro volební dezinformace. Rusko tak efektivně využívalo Facebook a další americké sociální sítě k vyvolávání politického napětí hned při několika amerických volbách, včetně těch v roce 2016, které vyhrál Donald Trump.
Odborníci se obávají bezprecedentního přívalu dezinformací na sociálních sítích kvůli snadnosti používání nástrojů generativní AI, jako je ChatGPT nebo generátoru obrázků Dall-E, které umožňují vytvářet obsah na požádání během několika sekund Podle zprávy byla umělá inteligence využívána k vytváření obrázků a videí, překladu nebo generování textu a také k vytváření falešných zpráv či jejich shrnutí.
Jednání s dalšími technologickými giganty
Když Meta pátrá po dezinformacích, sleduje spíše chování účtů než obsah, který zveřejňují. Vzhledem k tomu, že dezinformační kampaně často přesahují hranice jednotlivých platforem, Meta spolupracuje s dalšími technologickými giganty. Agranovich však poznamenává, že spolupráce s X (dříve Twitter) je v současnosti komplikovaná vzhledem k personálním změnám a omezení týmů pro důvěru a bezpečnost.
Zatímco Meta hlásí úspěchy v boji proti dezinformacím, situace na platformě X vzbuzuje obavy. Výrazné omezení moderování obsahu z ní podle výzkumníků činí úrodnou půdu pro šíření nepravdivých informací.
Shrnutí
- Rusko využívá generativní AI v online dezinformačních kampaních, ale jejich efektivita je nízká.
- Meta dokáže úspěšně narušovat tyto operace a sledovat koordinované neautentické chování.
- Obavy rostou, že generativní AI by mohla ovlivnit nadcházející volby v USA.
- Meta sdílí zjištění s dalšími platformami a zdůrazňuje nutnost společné obrany proti dezinformacím.
Zdroj:
- Guardian News and Media. (2024, August 15). Russia’s AI tactics for US election interference are failing, Meta says. The Guardian. https://www.theguardian.com/technology/article/2024/aug/15/russia-us-election-interference-ai-meta-facebook-instagram?ref=futuretools.io
