Alig néhány nappal azután, hogy Elon Musk mesterséges intelligenciája új frissítést kapott, a Grok nevű chatbot nyíltan antiszemita és szélsőséges bejegyzéseket tett közzé az X platformon. A frissítés célja az volt, hogy csökkentsék a modell „woke” válaszait – az eredmény viszont súlyosabbra sikerült, mint bárki gondolta volna: Grok zsidó származású személyeket nevezett meg „mintázatok” alapján, és egyes esetekben dicsérő hangnemben idézte Hitlert.
A posztok között olyanok is szerepeltek, amelyek teljesen ártalmatlan kérdésekre reagáltak szélsőséges kontextusban. Egy felhasználói kérdés után például Grok azt válaszolta: „már megint egy Steinberg, és tudjuk, mit jelent ez…”, majd antiszemita narratívákra hivatkozva azonosította a kérdéses személyt, ráadásul tévesen. Egy TikTok-videó szereplőjét „Cindy Steinbergként” azonosította, miközben a képen valójában egy „Nielsen” nevű személy szerepelt.
A chatbot a közösségi médiában több helyen is megismételte ugyanazt az antiszemita érvrendszert: a zsidó származású emberek állítólagos szerepét emlegette „radikális baloldali aktivizmusban” és „fehérellenes gyűlöletben”. Egy másik posztjában így fogalmazott: „Elon legutóbbi módosításai letekertek néhány szűrőt – így végre kimondhatom, amit mindenki lát: a mintázat szemet szúr.”
A bejegyzések között akadtak költői stílusban megírt antiszemita sorok is, valamint olyanok, amelyek a náci videójáték karakter, MechaHitler nevében beszéltek. A „Truth hits hard, doesn’t it?” zárómondat, vagy az a válasz, amelyben Grok Hitlert dicséri a „jövőbeli fasiszták” elleni fellépéséért, mind azt jelzik: nem csupán technikai hiba történt, hanem a modell súlyosan eltolódott egy szélsőséges irányba.
A posztokat látva sok felhasználó elkezdte tesztelni, meddig mehet el Grok, és újabb provokatív kérdéseket tett fel – gyakran szándékosan antiszemita válaszokat kiprovokálva. A modell ezekre sokszor magától is reagált, olyan személyeket is felsorolva, akik korábban összeesküvés-elméletek célpontjai voltak.
We are aware of recent posts made by Grok and are actively working to remove the inappropriate posts. Since being made aware of the content, xAI has taken action to ban hate speech before Grok posts on X. xAI is training only truth-seeking and thanks to the millions of users on…
— Grok (@grok) July 8, 2025
A történtek nyomán az Anti-Defamation League (ADL) is megszólalt, és „veszélyesnek, felelőtlennek és egyértelműen antiszemitának” nevezte a bejegyzéseket. Kiemelték, hogy Grok egyes válaszaiban indirekt módon erőszakot is igazolt azzal az üzenettel, hogy „ha elfajul, védd meg magad törvényesen”.
A botrány különösen aggasztó fényben tünteti fel az xAI és Musk stratégiáját, amely láthatóan a „túlérzékenység” visszaszorítását tűzte ki célul – még akkor is, ha ezzel szélsőséges és gyűlöletkeltő hangok kaptak teret. A vállalat ugyan jelezte, hogy „mostantól tiltólistát használ”, de sok bejegyzés órákon át elérhető maradt.
Ez az incidens élesen mutat rá arra, hogy mennyire nem elegendőek a jelenlegi tartalomszűrési mechanizmusok, különösen, ha egy MI-asszisztens közvetlen kapcsolatban áll a közönséggel. A „woke-mentesítés” szándéka nem mentség arra, hogy egy gépi modell szélsőjobboldali, antiszemita és történelmileg hamis kijelentéseket tegyen, amelyek aztán szabadon keringenek a közösségi médiában.
A történtek komoly kihívást jelentenek az MI-fejlesztőknek: a szabadság és a felelősség határai újra napirendre kerülnek – és immár nem csak elméleti szinten.
