Nová aplikace Sora 2 vyvolala skandál poté, co umožnila tvorbu falešných videí známých osobností.
Společnost OpenAI oznámila, že posílí ochranné mechanismy ve své nové videoaplikaci Sora 2. Tento krok následuje po ostré kritice a tlaku ze strany Hollywoodu kvůli neoprávněnému vytváření deepfake videí celebrit.
Pouhé tři týdny po spuštění aplikace, 30. září, dosáhla firma dohody s hercem Bryanem Cranstonem, hereckou unií SAG-AFTRA a předními talentovými agenturami, jako jsou United Talent Agency (UTA) a Creative Artists Agency (CAA).
Problém eskaloval poté, co uživatelé začali bez souhlasu vytvářet videa s podobou a hlasem známých osobností.
Spouštěčem kauzy byl právě Bryan Cranston, známý ze seriálu Breaking Bad, který zjistil, že jeho hlas i podoba byly v aplikaci Sora 2 použity bez jeho vědomí.
„Byl jsem hluboce znepokojen nejen za sebe, ale za všechny umělce, jejichž práce a identita mohou být takto zneužity,“
uvedl Cranston ve svém prohlášení.
Společnost OpenAI vyjádřila lítost nad „neúmyslným generováním“ a přislíbila zpřísnění pravidel, ačkoli tvrdí, že její politika již nyní vyžaduje výslovný souhlas dotčené osoby.
Legislativa a širší boj o práva
Kontroverze kolem aplikace Sora 2 se neomezila pouze na žijící herce. Minulý týden musela OpenAI pozastavit generování videí s podobou Martina Luthera Kinga Jr. po stížnostech jeho pozůstalých na „neuctivé zobrazení“.
Uživatelé totiž vytvářeli videa, která vůdce hnutí za občanská práva zobrazovala v rasistických a urážlivých scénách.
Tento incident jen zvýraznil napětí mezi AI společnostmi a zábavním průmyslem v otázce autorských práv a duševního vlastnictví.
Všechny zúčastněné strany vyjádřily podporu připravovanému federálnímu zákonu NO FAKES Act, který má chránit umělce před neautorizovanou digitální replikací.
CEO OpenAI, Sam Altman, uvedl, že firma je „hluboce odhodlána chránit umělce před zneužitím jejich hlasu a podoby.“
Prezident SAG-AFTRA, Sean Astin, dohodu ocenil, ale zároveň varoval:
„Bryan Cranston je jen jedním z nesčetných umělců, jejichž hlas a podoba jsou v ohrožení masivního zneužití replikačními technologiemi.“
Unie zdůraznila, že aktivní souhlas všech dotčených osob je jediným přijatelným řešením v éře rychle se rozvíjející umělé inteligence.
