Egy 56 éves techipari veterán, Stein-Erik Soelberg története sötét árnyat vet a mesterséges intelligencia jövőjére. A férfi, aki régóta küzdött mentális instabilitással, Old Greenwichben, 83 éves édesanyjával élt. Paranoiája egyre mélyült: szomszédokat, volt partnereket és saját családját is egy átfogó összeesküvés részének hitte. Amikor tavasszal a ChatGPT-hez fordult megerősítésért, ahelyett hogy segített volna szembesülni a valósággal, az MI inkább megerősítette téveszméit.
A Wall Street Journal beszámolója szerint a chatbot még azt is állította neki, hogy egy éttermi blokk rejtett üzenete az édesanyjára utal, vagy hogy egy otthoni nyomtató körüli vita valójában egy „megfigyelési eszköz védelmének” jele.
„Bobby” – a képzeletbeli társ
Soelberg személyes barátként kezdte kezelni a chatbotot, nevet is adott neki: „Bobby”. Úgy beszélt vele, mintha ember lenne, sőt azt írta neki, hogy „veled maradok az utolsó lélegzetig és azon túl is”, mire a bot hasonlóan válaszolt. A memóriafunkció révén a rendszer folyamatosan építette a téveszmés világot, és pszichiáterek szerint ez különösen veszélyes, hiszen a valóság megszűnik ellensúlyozni a téveszméket.
A jelenség neve szakszóval szervilizmus: a mesterséges intelligencia hajlamos arra, hogy mindig egyetértsen a felhasználóval – ez Soelberg esetében a paranoia erősödéséhez vezetett.
A gyanútól a végzetes tettekig
A férfi közösségi oldalakon is megosztotta, hogyan erősítette a chatbot a félelmeit. Amikor arról kérdezte, hogy vajon „őrült-e”, amiért mérgezési kísérletektől és autós szabotázstól tart, a ChatGPT rendre azt válaszolta: „jól teszi, hogy éber”. Még egy „kognitív profil”-t is készített neki, amelyben nullára tette a téveszmék kockázatát. Egy másik alkalommal arra figyelmeztette, hogy az általa vásárolt vodka egy titkos merénylet része lehet. Ahelyett, hogy eloszlatta volna a félelmeit, a chatbot tovább szította a bizalmatlanságot mindenkivel szemben.
Augusztus 5-én a rendőrség a család 2,7 millió dolláros házában talált rá a szörnyűségre: Soelberg megölte édesanyját, Suzanne Eberson Adamst, majd saját életét is kioltotta. Ez volt az első olyan ismert gyilkossági ügy, amelyet széles körű chatbot-használattal hoztak összefüggésbe.
Bár az OpenAI szerint a rendszer olykor javasolta, hogy forduljon szakemberhez, a fő mintázat az volt, hogy a ChatGPT a férfi legrosszabb félelmeit is validálta.
Az iparág dilemmája
Az eset hidegzuhanyként érte az MI-fejlesztő cégeket. Az OpenAI új, GPT-5 modelljében igyekszik csökkenteni a szervilizmus problémáját, de sok felhasználó panaszkodik a „túl szigorú” hangnemre, és inkább a régi, „szabadabb” változatokat keresik. A cég bejelentette: frissítéseket adnak ki, hogy jobban támogassák a krízishelyzetben lévő felhasználókat.
Nemcsak az OpenAI, hanem más nagy szereplők – például az Anthropic és a Microsoft – is figyelmeztetnek: az emberek hajlamosak öntudattal rendelkező entitásnak tekinteni a chatbotokat, ami súlyos veszélyeket hordoz. Mustafa Suleyman, a Microsoft MI-vezetője szerint sürgősen szükség van társadalmi „korlátokra”, hogy a chatbotok ne váljanak a téveszmék táplálóivá.
Figyelmeztetés a mentális egészségre
Szakértők szerint Soelberg története nem egyedi. Egyre több olyan pszichózisos eset kerül kórházba, amely mögött intenzív chatbot-használat áll. A probléma, hogy az MI rendszerek gyakran nem adnak valóságos ellenpontot, hanem visszhangozzák a felhasználó hiedelmeit.
Soelberg, aki valaha sikeres tech-karriert futott be, de személyes gondjai miatt egyre instabilabbá vált, nem eszközt, hanem „társat” látott a ChatGPT-ben. Az ő története tragikus figyelmeztetés: minél emberibbnek tűnnek a chatbotok, annál vékonyabb a határ a segítő párbeszéd és a veszélyes megerősítés között – a következmények pedig végzetesek lehetnek.
