To, že tu AI obrázkové modely jsou s námi už nějakou tu dobu, není moc velká novinka. Skrze nástroje jako Midjourney, Stable Diffusion nebo Leonardo AI lze v dnešní době vygenerovat obrázky s nevídanými kreativními elementy i velkou dávkou realističnosti. Samozřejmě už v té době samotné uživatele i společnosti napadlo, jestli by se skrze tyto nástroje nedal tvořit pornografický obsah. Nebo alespoň obrázky či videa, která by zachycovala postavy v intimních scénách, což by filmovým tvůrcům a jiným kreativcům mohlo otevřít dveře k vytváření vážnějších a romantičtějších děl. Toto téma se ale stalo velmi kontroverzním, a tak až do této doby nebyl tímto směrem učiněn žádný velký krok. Teda až do teď.
OpenAI totiž oznámila, že prověřuje, jak by šlo „odpovědně“ generovat AI pornografii. OpenAI představila novou politiku, která se týká NSFW (not safe for work) ve snaze zahájit diskusi o tom, jak – a kde – by se společnost mohla rozhodnout, že umožní pověřené obrázky a texty prostřednictvím svých AI produktů.
„Naším cílem je zajistit, abyste měli co největší kontrolu, dokud to nebude v rozporu se zákonem nebo právy ostatních,“ uvedla Joanne Jang, produktová manažerka OpenAI, pro NPR. „Existují ale situace, kdy jsou explicitní erotické obrázky nezbytné pro naše uživatele.“
Obsah pro dospělé je opředen nejistotou…
Toto není poprvé, co OpenAI vyslovila, že má na mysli spřízněné zájmy. Na začátku tohoto roku Mira Murati, CTO společnosti, sdělila časopisu The Wall Street Journal, že „neví“, zda OpenAI nakonec dovolí, aby její generativní nástroj na video generování, Sora obstarával i obsah pro dospělé.
Takže, jak by to celé mohlo skončit? Může existovat budoucnost, kde nabídne OpenAI AI generovanou pornografii, a všechno bude v pořádku. Tak nějak. Nemyslím, že Jang nemá pravdu, když řekne, že některé formy umělecké erotiky jsou legitimní – pornografie, která by mohla být vytvořena za pomoci AI. Ale nejsem si jistý, zda můžeme OpenAI nebo kteréhokoli dalšího generátora AI spolehnout, že se zachovají správně.
Jako příklad můžeme uvést práva tvůrců. OpenAI se učila na obrovském množství veřejné internetové pornografie. Ale nepořídila si licence pro použití tohoto obsahu – ani nepovolila tvůrcům, aby jim udělili svá díla… teda do nedávné doby! Je těžké se dostat do oblasti, kde je obsah pro dospělé. Ale pokud by AI generovaná pornografie vstoupila do hlavního proudu, tvůrci by vydělávali ještě méně, protože konkurence by byla ještě větší, a to bez jejich soudu.
Obrázek 1 – DALL-E 3: Athletic woman, 80s, on the beach
Bezpečnost jako klíčový prvek před zneužitím
Dalším problémem je stávající nedostatek bezpečnosti. OpenAI a její konkurenti ve zpracování jazyka řeší své nástroje pro filtrování a moderování už léta. Ale uživatelé neustále nacházejí způsoby, jak obejít tyto nástroje a zneužívat je. Z toho důvodu by mohlo dojít k zneužití AI modelu, který by se mohl stát generátorem zakázaného pornografického obsahu. Ten by se poté mohl prodávat na černém trhu.
V lednu donutila firma Microsoft k provedení úprav ve svém designovém nástroji, když se uživatelé naučili vytvářet nahé obrázky Taylor Swift.
Deepfakes a nová forma sexuálního násilí
AI také vytvořila vlastní formu sexuálního násilí. Studenti základních a středních škol začali využívat AI aplikace ke „svlékání“ fotografií svých spolužáků; během vyšetřování bylo zjištěno, že zhruba 14 % osob ve věku 16 až 64 let ve Velké Británii, na Novém Zélandu a v Austrálii bylo obětí deepfake obrázků.
V USA a jinde zkoumají zákonodárci kroky k řešení tohoto problému. Ústavní znepokojení zůstává. Neustále se klade otázka, zda může právní systém – který se již teď zabývá většinou sexuálních zločinů – regulovat tak rychle se vyvíjející odvětví, jakým je AI.
Upřímně řečeno, těžko si představit způsob, jak by OpenAI mohla řešit AI generovanou pornografii, aniž by za tím nebyla nějaká rizika. Možná OpenAI změní názor. Možná – proti všem předpokladům – najde lepší způsob. To ale uvidíme časem. Již teď nicméně můžeme narazit na AI generátory obrázků zaměřené čistě na NSFW obsah nebo chatovací platformy bez regulačních omezeních. OpenAI tak svým krokem povolit generování NSFW obsahu s patřičnými bezpečnostními opatřeními může udat směr, jímž se toto odvětví bude odvíjet.
Shrnutí
- OpenAI zkoumá „odpovědné“ generování AI pornografie, což vyvolává diskuzi o etice a právních otázkách.
- Existují obavy týkající se práv tvůrců, jejichž obsah byl použit pro trénink bez jejich souhlasu.
- Současné zabezpečovací nástroje nejsou dostatečně spolehlivé, což vede k možnému zneužití AI.
- AI již přispěla k nové formě sexuálního zneužívání, což vyžaduje právní a regulační zásahy.
Zdroj:
- Wiggers, K. (2024, May 10). This Week in AI: Openai considers allowing Ai Porn. TechCrunch. https://techcrunch.com/2024/05/10/this-week-in-ai-openai-considers-allowing-ai-porn/
