Čína zahájila kampaň proti falešným zprávám

V nedávné době došlo hned ke dvěma významným událostem, při nichž se řešila umělá inteligence, převážně její dopad na společnost, její bezpečnost, transparentnost a potenciální benefitech, které může společnosti přinést. 

Jednou z těchto událostí bylo vyhotovení nové legislativy Evropskou Unií s názvem AI Act, jímž chce Evropa efektivně regulovat umělou inteligenci a navýšit tak kontrolu nad jejím používáním. Druhou událostí se stalo nedávné vypovídání v kongresu Spojených států, kde proběhla debata mezi dvěma hlavními zastupiteli velkých společností Samem Altmanem, Christinou Montgomery, univerzitním profesorem Garym Marcusem a senátory Richardem Blumenthalem a Joshem Hawleym. Předmětem debaty byla rizika umělé inteligence a její vývoj v následujících letech.

Hlavní obavy umělé inteligence se souvisí s její schopností tvořit velmi věrohodné dezinformace, které by mohli rozvrátit společnost, kdyby se ocitli v nesprávných rukou. Toho si je vědomá i Čína, která zahájila kampaň skrze Čínskou správu kyberprostoru (CAC) zaměřenou na boj s dezinformacemi vytvářenými umělou inteligencí.

Kampaň je zaměřena na média a poskytovatele informací, včetně platforem pro krátká videa (tzv. reels) a populární vyhledávací seznamy.

Čína se obává převážně tzv. deepfakes 

CAC konkrétně upozornila na manipulativní techniky, jako je používání virtuálních moderátorů s AI pro prezentování falešných zpráv, falešné scény ze studií, falešné zpravodajské účty, které imitují účty reálných osobností a manipulativní zprávy s účelem vytvoření zavádějících informací. Tyto techniky jsou využívány k vytváření toho, co je často označováno pod pojmem „clickbait“.

Podle zpráv od CAC, regulátor již podnikl opatření proti zhruba 107 000 falešným zpravodajským účtům a falešným moderátorům. Netajila se ani informací o odstranění kolem 835 000 falešných informací. Internetový regulátor také povzbuzuje a vyzývá občany, aby jakékoli dezinformace či falešné účty, které na internetu objeví, okamžitě nahlásily.

Nedávný případ odhalení osoby zodpovědné za šíření dezinformací skrze ChatGPT

V souladu s čínským mediálním zákonem o AI, jehož cílem je omezit šíření falešných zpráv vytvářenými AI, policie nedávno zadržela v provincii Kan-su osobu za vytváření dezinformací pomocí ChatGPT.

Daný jedinec použil ChatGPT k vymyšlení zpravodajského článku o vlakové havárii, který se velmi rychle rozšířil na platformách sociálních médií. Policie proti osobě zakročila s obžalobou ze šíření nepravdivých informací s cílem navýšit návštěvnost webových stránek.

Ačkoli služba ChatGPT není v Číně přímo dostupná, uživatelé se k ní mohou dostat skrze zahraniční telefonní číslo nebo virtuální privátní síť (VPN). Přístup k zahraničním číslům a VPN je však v Číně regulován, proto není tak jednoduché se k těmto možnostem dostat.

Zákon o médiích vytvářených umělou inteligencí je účinný již od 10. ledna 2023, tedy od doby, kdy se generativní jazykové modely začali dostávat do světa ve velkém a začali na něm zanechávat znatelný otisk. Zákon se primárně zaměřuje na osoby, jako např. na tu, který byla zadržena v provincii Kan-su, ale i na poskytovatele služeb spojených s AI, jejichž cílem je vytvořit tzv. hluboké syntézy neboli deepfakes. Cílem zákonu je zabránit zneužívání algoritmů umělé inteligence k nezákonným činnostem, jako jsou podvody, hoaxy a šíření falešných zpráv.

Znění tohoto zákona pak představuje výzvu pro mnohé čínské společnosti, které se na vývoji AI podílejí. Mezi ně patří např. společnost Tencent, jedna z největších technologických a internetových společností na světě se sídlem v Číně. Jednou z jejich velmi populárních platforem je aplikace WeChat, a právě u ní, ale i mnohých dalších aplikací, se bude muset zajistit bezpečnost a ochrana před zneužitím. Ačkoli je tento krok veden s ohleduplností k uživatelům, nedodržení zákonu by mohlo vyústit v penalty ze strany čínské vlády, čehož se Tecent může obávat.

Společnost Tencent nedávno představila produkt, který je v podstatě „Deepfakes-as-a-Service“, a který uživatelům umožňuje za poplatek vytvářet digitální osobnosti ve vysoké kvalitě. To bezpochyby vyvolává obavy z možného zneužití.

Úsilí čínské vlády v boji proti dezinformacím a regulacím digitální komunikace zdůrazňuje jejich snahu o zachování bezpečného a důvěryhodného digitální prostředí. Kritici nicméně vyjadřují obavy z cenzury a omezování svobody projevu. Je totiž možné, že vzhledem k současné politické situaci v Číně, tento krok a jeho vzezření může působit jako zástěrka pro cenzuru informací, které se čínské vládě zrovna nehodí a naopak ponechávání těch, které jsou podle vládního sdružení přínosné.