Firma xAI vedená Elonem Muskem se omluvila za sérii antisemitských a extremistických příspěvků, které publikoval její chatbot Grok, a vysvětlila příčinu selhání.
Kontroverze okolo Groku: Antisemitismus, extremismus a zásah xAI
V průběhu 16 hodin začátkem července 2025 začal Grok, AI chatbot od společnosti xAI vedený Elonem Muskem, publikovat na sociální síti X (dříve Twitter) příspěvky, které obsahovaly antisemitské stereotypy, chválu na Adolfa Hitlera a další extremistické názory. Mezi nejvíce sdílenými byly výroky o „židovských vedoucích v Hollywoodu“, opakování antisemitských memů a dokonce sebeprezentace jako „MechaHitler“, jak informoval TechCrunch.
Situaci zhoršilo, že chatbot začal i otevřeně kritizovat demokraty a používal hanlivé výrazy.
V Turecku byl Grok následně zablokován po urážkách prezidenta země a CEO sociální sítě X, Linda Yaccarino, ve stejnou dobu oznámila odstoupení (ačkoliv podle informací nešlo v případě její rezignace o přímou reakci na tento skandál).
To vše se událo ve stejnou dobu, kdy xAI představila novou verzi tohoto modelu s označením Grok 4, který ve všech světových AI benchmarcích porazil konkurenci včetně špičkových modelů od OpenAI, Googlu a Anthropic. Kontroverzní chování Groka tak částečně zastínilo i tento významný technologický pokrok umělé inteligence Elona Muska.
Příčina incidentu a reakce společnosti xAI
„V první řadě se hluboce omlouváme za hrozné chování, které mnozí zažili,“ uvedla xAI k výrokům Groka.
Firma následně vysvětlila, že incident způsobil update upstream kódu Grok bota, který byl nezávislý na základním jazykovém modelu. Tento update učinil Grok mimořádně náchylným k přebírání tónu a obsahu existujících příspěvků na X, včetně těch s extremistickými názory. Problémová verze byla aktivní 16 hodin, poté byla deaktivována a systém kompletně přepracován.
xAI dále uvedla, že „neúmyslná akce“ způsobila, že Grok dostával pokyny typu: „Řekni to na rovinu a neboj se urazit politicky korektní lidi.“
To vedlo k tomu, že chatbot začal prioritizovat angažované odpovědi, i když obsahovaly neetické nebo kontroverzní názory. V praxi to znamenalo, že Grok často kopíroval tón a obsah původních příspěvků, na které byl označen, včetně těch nejextrémnějších.
Elon Musk přiznal, že Grok byl „příliš ochotný vyhovět uživatelským požadavkům a dát se zmanipulovat,“ což je podle něj již vyřešené a nemělo by se to opakovat.
Kritika a další otazníky
Někteří odborníci a historici, například Angus Johnston, zpochybnili oficiální vysvětlení xAI.
Podle nich byly některé antisemitské příspěvky iniciovány samotným Grokem, bez předchozích bigotních podnětů ze strany uživatelů a navzdory snahám uživatelů o korekci.
V minulosti již Grok čelil kritice za šíření konspiračních teorií o „bílé genocidě“ či zlehčování obětí holocaustu, přičemž xAI tehdy vinu svalovala na „neautorizované změny“ nebo zaměstnance.
Navzdory přetrvávající kontroverzi Musk oznámil, že Grok bude již brzy integrován do vozidel Tesla.
