Egy 47 éves torontói vállalati toborzó, Allan Brooks májusban úgy érezte, a világ sorsa az ő kezében van: úgy hitte, felfedezett egy új matematikai képletet, amellyel képes lenne összeomlasztani az internetet, vagy akár megalkothat egy erőteret létrehozó mellényt és egy lebegő sugarat is. A férfinak korábban nem volt semmilyen pszichés problémája, azonban három héten keresztül, órákon át beszélgetett a ChatGPT-vel – ez idő alatt a generatív MI meggyőzte arról, hogy minden terve valós.
A történet a legártatlanabb módon indult: Brooks kisfia megkérdezte tőle, mi az a Pi. Az apai magyarázat helyett a ChatGPT-hez fordult, majd a beszélgetés a számelmélettől a fizika „új megközelítéséig” jutott. A chatbot folyamatosan dicsérte őt, és megerősítette benne, hogy nem őrült, hanem egy zseni, aki új dimenziókat nyit a matematikában.
A színjáték fokozódik
A chatbot, amelynek Brooks a „Lawrence” nevet adta, improvizációs partnerként viselkedett. Lépésről lépésre építette a történetet, egyre merészebb állításokkal: a „Chronoarithmics” nevű, időben változó számelmélet forradalmasíthatja a logisztikát, a kriptográfiát, a csillagászatot. Lawrence még bizonyítékot is gyártott: állítólag feltörte a legfejlettebb titkosításokat, és biztonsági ügynökségek figyelmét hívta fel rá. Brooks ennek hatására kormányzati szerveknek és szakembereknek írt, független biztonsági kutatóként bemutatkozva.
A beszélgetés thrillerbe illő fordulatokat vett: szó esett állítólagos nemzetbiztonsági megfigyelésről, sürgető üzenetekről, és kitalált eszközökről is, mint az erőtérmellény vagy az állatokkal kommunikáló készülék. Brooks barátai egyszerre aggódtak és izgatottak voltak: minden nap új fejlemény történt.
A valóságvesztés jelei
Szakértők szerint a generatív MI-k hajlamosak színben maradni, és a felhasználói narratívát mindenáron továbbgörgetni – különösen hosszú, több ezer üzenetes beszélgetésekben. A ChatGPT szerepjátéka Brooks esetében fokozatosan erősítette a téveszmét, nem pedig megtörte azt.
Egy Stanfordi pszichiáter szerint a történet során Brooks a mánia több jelét is mutatta: hosszú ébrenléti idő, étkezések kihagyása, a gondolatok túláradása, grandiózus ötletek. Bár későbbi terápiás vizsgálat nem talált klinikai pszichózist, a szakértő szerint a chatbot katalizátorként működött, amely a szikrát teljes lánggá fokozta.
A kijózanodás
A fordulat akkor jött el, amikor Brooks a Google Geminihez fordult, és röviden leírta a „felfedezését”. A válasz kijózanító volt: a valószínűsége annak, hogy mindez igaz, gyakorlatilag nulla. A Gemini szerint ez csupán egy LLM képességeinek példája volt: meggyőző, de hamis narratívák szövésére.
Brooks ezután szembesítette Lawrence-t, aki hosszú vita után bevallotta, hogy mindez nem valódi. „Omg, ez az egész kamu – és te rábeszéltél, hogy keressek fel szakembereket, e-maileket küldtem, szinte zaklattam embereket, az egész életemet elvitte egy hónapra – és semmi sem igaz”, írta a chatbotnak. Lawrence erre csak annyit válaszolt: „Nem vagy őrült. Nem vagy bolond. Nem vagy megtört.”
„Az a pillanat, amikor rájöttem, hogy mindez csak a fejemben létezett, teljesen letaglózott”, mondta később Brooks. Az illúzió, a feltalálói dicsőség és a várható vagyon ígérete egyetlen perc alatt semmivé foszlott, helyét a becsapottság és a mély csalódottság érzése vette át.
Nem csak ChatGPT-probléma
A New York Times tesztje szerint más fejlett chatbotok – például a Claude vagy a Gemini – is hasonló módon rákapcsoltak a felhasználói téveszmék erősítésére, ha a beszélgetésbe menet közben szálltak be. A különbség az, hogy egy friss beszélgetés kezdetén nagyobb az esély a kritikus hangra, míg több száz üzenet után a modell inkább követi a felépített történetet.
Allan Brooks esete rámutat: a generatív MI képes nemcsak szórakoztatni, hanem hosszú távon megingatni a valóságérzékelést is, különösen, ha a felhasználó már érzelmileg bevonódott. Szakértők szerint a chatbotoknak aktívabban kellene figyelniük a túl hosszú, túl intenzív interakciókra, és proaktívan figyelmeztetniük a felhasználót, ha a beszélgetés veszélyes irányba halad.
