Výzkumníci z Googlu přišli s novým článkem, který varuje, že generativní AI ničí rozsáhlé části internetu falešným obsahem — což je bolestně ironické, protože jedním z hlavních současných AI gigantů je právě Google, který se snaží stát se hlavním lídrem v oblasti umělé inteligence skrze nástroje jako Gemini a další AI nástroje integrované v Google aplikacích.
Studie, která zatím nebyla recenzována a byla objevena až internetovým magazínem 404 Media, zjistila, že velká většina uživatelů generativní AI využívá tuto technologii k „rozmazávání hranic mezi autenticitou a klamem“ prostřednictvím zveřejňování falešného nebo upraveného AI obsahu, jako jsou obrázky nebo videa na internetu. Výzkumníci také prozkoumali dříve publikované výzkumy o generativní AI a přibližně 200 zpráv o zneužití generativní AI.
„Manipulace lidskou podobou a falšování důkazů jsou základem nejčastějších taktik v reálných případech zneužití,“ uzavírají výzkumníci. „Většina z nich byla nasazena s rozpoznatelným záměrem ovlivnit veřejné mínění, umožnit podvody nebo podvodné aktivity, nebo generovat zisk.“
A je to stále horší…
Situaci komplikuje to, že generativní AI systémy jsou stále pokročilejší a snadno dostupné — „vyžadují minimální technické znalosti,“ uvádějí výzkumníci, a tato situace překrucuje „kolektivní pochopení sociálně-politické reality nebo vědeckého konsensu.“
To, co v článku chybí, pokud můžeme říci, je jakákoli zmínka o vlastních trapných chybách Googlu při používání této technologie — které, jako jedna z největších společností na Zemi, byly někdy obrovského rozsahu.
Pokud si přečtete článek, nemůžete se ubránit závěru, že „zneužití“ generativní AI často vypadá, jako by fungovala podle plánu. Lidé používají generativní AI k vytváření velkého množství falešného obsahu, a tím pádem zahlcují internet spoustou nekvalitního obsahu. Zajímavé je, že většina dat, na nichž je AI trénována je právě z internetu.
Obecně generativní AI, jako jsou modely GPT-4 a DALL-E, fungují na principech analýzy a reprodukce velkých datových souborů. Tyto modely jsou trénovány na obrovském množství textů, obrázků a dalších dat, což jim umožňuje vytvářet nové, realistické výstupy na základě těchto vzorů. Tento proces je znám jako „učení se z příkladů“. Kvalita dat je tedy esenciální, protože se odráží do kvality odpovědí umělé inteligence.
Není tak těžké si představit, že může vzniknout začarovaný kruh, v němž lidé skrze AI publikují nekvalitní nebo lživý obsah, na němž se AI trénuje a kvůli tomu generuje méně kvalitní nebo dokonce lživé odpovědi.
Obrázek 1 – DALL-E 3: Dystopické město v pixel arkádovém stylu
Realita nebo klam?
Tato situace je umožněna samotným Googlem, který umožnil šíření tohoto falešného obsahu nebo byl dokonce jeho zdrojem, ať už jde o falešné obrázky nebo nepravdivé informace. S tím dále samozřejmě souvisí i vzrůstající neschopnost lidí odlišit klam od reality. Problém je, že v momentě, kdy ve všem vidíte AI, často přestanete důvěřovat i tomu, co je ve skutečnosti pravdivé.
„Stejně tak masová produkce nekvalitního, spamového a nebezpečného syntetického obsahu riskuje zvýšení skepticismu lidí vůči digitálním informacím jako celku a přetížení uživatelů ověřovacími úkoly,“ píší.
Dopady na společnost
Dopady generativní AI na společnost jsou hluboké a dalekosáhlé. Na jedné straně AI umožňuje nové formy kreativity a inovace, na straně druhé však také vytváří nové výzvy a rizika. Falešné zprávy a dezinformace mohou vést k politické nestabilitě, ekonomickým ztrátám a nedůvěře ve veřejné instituce.
Tak například před prezidentskými volbami v USA mezi Donaldem Trumpem a Joem Bidenem došlo k zaplavení internetu dezinformacemi, které zásadně ovlivnily veřejné mínění. Podle studie MIT Sloan se falešné zprávy na Twitteru šíří o 70 % rychleji než pravdivé a dosahují širšího publika. To je samozřejmě podpořené algoritmy sociálních sítí, které spíše šíří falešné zprávy. Důvodem je fakt, že falešné zprávy obvykle bývají více radikalizované a emočně nabité. Z toho důvodu více lidi zaujmou a uloží se do paměti. Tento fenomén byl obzvláště výrazný během voleb v letech 2012 a 2016. Falešné informace mohly změnit názor až 15 % voličů. To není málo, obzvlášť, když si vezmete kolik voličů v USA je.
Obrázek 2 – DALL-E 3: Počítač ve stylu hry Nier Automata
Odpovědnost technologických gigantů
Všem je tak nějak jasné, že technologické společnosti, jako je Google, mají obrovskou odpovědnost za řízení a regulaci používání generativní AI. Přesto ale jak víme, ne vždy zodpovědně se svou mocí zacházejí.
Samozřejmě, že tyto technologie mohou přinést značné výhody, nicméně mohou přinést i spoustu úskalí. Ideální je tak podpořit investice do výzkumu zaměřeného na detekci a prevenci zneužití AI, stejně jako spolupráci s vládními a mezinárodními organizacemi na vytvoření globálních standardů a regulací. Na druhou stranu přílišná regulace může vývojáře odradit a dát konkurenční výhodu těm, kteří se žádnými regulacemi neřídí. Pravým oříškem bude najít zlatý střed mezi těmito dvěma těžišti.
Shrnutí
- Generativní AI zahlcuje internet falešným obsahem, čímž snižuje jeho kvalitu
- Google je ironií osudu jedním z hlavních propagátorů této technologie.
- Situace zkresluje kolektivní chápání reality a zvyšuje nedůvěru k digitálním informacím.
- Masová produkce falešného obsahu umožňuje vysoce postaveným osobám vyhýbat se odpovědnosti. Generovat falešný obsah dnes díky AI může kde kdo.
- Cílem je najít rovnováhu mezi podporou technologických inovací a AI regulacemi.
Zdroj:
- Adarlo, S. (2024, July 4). Google researchers publish paper about how AI is ruining the internet. Futurism. https://futurism.com/the-byte/google-researchers-paper-ai-internet?ref=futuretools.io
- Brown, S. (2020, October 5). MIT Sloan Research about social media, misinformation, and elections. MIT Sloan. https://mitsloan.mit.edu/ideas-made-to-matter/mit-sloan-research-about-social-media-misinformation-and-elections
