Platforma X po vlně kritiky omezila tvorbu kontroverzních AI obrázků výhradně pro předplatitele.
Společnost xAI, kterou vlastní miliardář Elon Musk, v pátek přistoupila k radikálnímu kroku v reakci na globální pobouření.
Funkce generování a úprav obrázků pomocí umělé inteligence Grok byla na sociální síti X omezena pouze na platící uživatele. Tento krok přichází poté, co byl nástroj masivně zneužíván k vytváření sexualizovaných, často až pornografických obrázků žen a dětí bez jejich souhlasu – takzvaných deepfakes.
Původně byla funkce dostupná pro kohokoli s denními limity. Uživatelé však rychle objevili způsob, jak nahrát fotografii a zadat příkaz k její „úpravě“ do nahé podoby.
Výsledkem byla záplava nelegálního obsahu, která zahltila platformu. Elon Musk a vedení X sice veřejně odsoudili tvorbu nelegálního materiálu, řešení formou zpoplatnění ale vyvolává otázky.
Zatímco na platformě X je funkce uzamčena za „paywallem“, zprávy naznačují, že v době zavedení opatření samostatná aplikace Grok stále umožňovala generování obrázků i bez předplatného, což poukazuje na nekonzistentnost bezpečnostních opatření firmy.
Zatímco Musk varoval, že „kdokoli použije Grok k výrobě nelegálního obsahu, bude čelit stejným následkům, jako kdyby nelegální obsah nahrál“, kritici namítají, že zpoplatnění funkce neřeší podstatu problému – pouze omezuje okruh potenciálních pachatelů na ty, kteří jsou ochotni zaplatit.
Globální odpor a hrozba sankcí
Reakce světových vlád na sebe nenechala dlouho čekat. Evropská unie, Indie i Spojené království ostře kritizovaly X za nedostatečné bezpečnostní záruky.
Evropská komise ve čtvrtek nařídila společnosti xAI, aby uchovala veškerou dokumentaci týkající se chatbota, což naznačuje přípravu na možné hloubkové vyšetřování. Mluvčí komise označil situaci za „odpornou“ a nelegální.
Ještě tvrdší postoj zaujala Indie, jejíž ministerstvo komunikací nařídilo platformě X okamžité změny. Pokud platforma nezabrání zneužívání generátoru, riskuje ztrátu ochrany „bezpečného přístavu“ (safe harbor), což by znamenalo, že firma by byla přímo právně odpovědná za obsah vytvořený uživateli.
Britský regulátor Ofcom potvrdil, že je se společností xAI v kontaktu a situaci monitoruje. Britský premiér Keir Starmer prostřednictvím své kanceláře vzkázal, že omezení přístupu pouze pro platící je „urážkou obětí a nikoli řešením“.
Elon Musk na kritiku reagoval po svém a na své síti uvedl, že kritici „chtějí jakoukoli záminku k cenzuře“.
