Umělá inteligence Grok vytvářela na sociální síti X explicitní záběry dětí, což spustilo okamžitou vlnu vyšetřování po celém světě.
Sociální síť X (dříve Twitter) a její sesterská společnost xAI, které vlastní miliardář Elon Musk, se ocitly v centru masivní regulační bouře. Důvodem je nejnovější aktualizace generátoru obrázků v rámci chatbota Grok, která uživatelům umožnila vytvářet fotorealistické, sexuálně explicitní záběry žen a – což je nejzávažnější – i dětí.
Reakce úřadů na sebe nenechala dlouho čekat. Evropská komise, britský dozorový orgán Ofcom, ale také vlády v Indii a Malajsii zahájily okamžité vyšetřování.
Mluvčí Evropské komise Thomas Regnier na pondělní tiskové konferenci ostře odsoudil laxní přístup platformy. Reagoval na zprávy, že Grok nabízel tzv. „spicy mode“ (pikantní režim), který generoval i obsah připomínající zneužívání dětí.
„Tohle není ‚pikantní‘. Je to nelegální. Je to odpudivé. Je to nechutné. Takto to vidíme my a v Evropě to nemá místo,“ prohlásil Regnier.
Tlak se stupňuje i v Asii. Indie prostřednictvím svého Ministerstva elektroniky a IT nařídila společnosti X provést komplexní audit procesů do 5. ledna, zatímco malajsijská komise MCMC vyzvala k okamžitému zavedení bezpečnostních pojistek v souladu s místními zákony.
Skandál v USA zvyšuje popularitu aplikace
Zatímco v Evropě a Asii hrozí sankce, v USA se do případu zapojilo Národní centrum pro sexuální vykořisťování (NCOSE). Organizace vyzvala Ministerstvo spravedlnosti (DOJ) a Federální obchodní komisi (FTC), aby zasáhly.
Právní expertka Dani Pinter z NCOSE upozornila, že ačkoli jde o virtuálně generovaný obsah, federální zákony včetně Take It Down Act, který loni podpořila i první dáma Melania Trump, jasně zakazují tvorbu materiálu zobrazujícího dítě v sexuálním kontextu.
Ministerstvo spravedlnosti potvrdilo, že bude „agresivně stíhat jakéhokoli výrobce nebo držitele CSAM“ (materiálu zobrazujícího sexuální zneužívání dětí), bez ohledu na to, zda byl vytvořen kamerou, nebo umělou inteligencí.
Navzdory závažnosti situace a kritice bezpečnostních expertů, jako je Tom Quisel ze společnosti Musubi AI, který označil bezpečnostní vrstvy Groka za nedostatečné, se Elon Musk k situaci na platformě X postavil po svém.
Sdílel sérii obrázků vygenerovaných Grokem, včetně jednoho, kde je on sám v bikinách, doprovázeného smějícími se emoji.
Zároveň však v jiném příspěvku varoval:
„Kdokoli, kdo použije nebo vyzve Grok k vytvoření nelegálního obsahu, bude čelit stejným následkům, jako kdyby nahrál nelegální obsah.“
Celá kontroverze paradoxně pomohla číslům platformy. Podle analytické společnosti Apptopia vzrostla denní stažení aplikace Grok od 2. ledna o 54 %, zatímco stahování aplikace X poskočilo o 25 %.
Trh tak opět ukazuje, že ani ta nejzávažnější etická selhání nemusejí okamžitě vést k odlivu uživatelů – právě naopak.
