Nová sociální aplikace Sora od OpenAI se stala virální – avšak v mnoha ohledech ze špatných důvodů.
Altman jako hvězda bizarních videí
Jak jsme vás informovali včera, společnost OpenAI, známá díky ChatGPT, spustila svou novou sociální aplikaci Sora, která připomíná TikTok. Už méně než 24 hodin po spuštění ji zaplavila znepokojivá, ale technicky působivá deepfake videa.
Ústřední postavou se nechtěně stal samotný CEO OpenAI, Sam Altman, který v aplikaci zpřístupnil svůj digitální avatar, tzv. „cameo“, k veřejnému použití.
Uživatelé neváhali a okamžitě začali generovat surrealistické a často kontroverzní klipy. V jednom videu se Altman obrací na prasata na farmě větou: „Chutná mým selátkům?“ V jiném stojí uprostřed pole s Pokémony a říká: „Doufám, že nás Nintendo nebude žalovat.“
Kreativita uživatelů nezná hranic. Altman byl zobrazen, jak krade grafické karty Nvidia z obchodu, obsluhuje Pikachua ve Starbucks nebo křičí na zákazníky v McDonald’s.
Tato videa otevřeně poukazují na etické a právní problémy spojené s umělou inteligencí, včetně porušování autorských práv, jelikož aplikace umožňuje tvořit obsah s postavami jako Naruto či Mario.
Samotná aplikace v některých případech zobrazí varování, že obsah „může porušovat naše zásady týkající se podoby třetích stran“, ale zdá se, že tato omezení jsou velmi volná.
Bezpečnostní rizika a budoucnost dezinformací
Aplikace Sora běží na pokročilém modelu Sora 2, který dokáže generovat velmi realistická videa díky lepšímu pochopení fyzikálních zákonů.
Právě tato realistickost však představuje velké riziko. Funkce „cameo“ umožňuje uživatelům nahrát své biometrické údaje a vytvořit si vlastní digitální avatar, který mohou následně používat oni, nebo po udělení souhlasu i další uživatelé.
Novinářka Amanda Silberling si funkci vyzkoušela a aplikace na základě její polohy správně odhadla, že je fanouškem baseballového týmu Philadelphia Phillies, přestože tuto informaci nikdy nezadala.
OpenAI tvrdí, že má zavedená bezpečnostní opatření, například rodičovskou kontrolu a možnost spravovat, kdo může váš avatar použít. Přesto interní testy odhalily, že i když je šance nízká, existuje 1,6% pravděpodobnost, že by Sora mohla vytvořit sexuální deepfake obsah s podobou konkrétní osoby.
