A ChatGPT-felhasználók érdekes jelenséget fedeztek fel a hétvégén: a népszerű chatbot nem hajlandó válaszolni a kérdésekre, ha David Mayerről kérdezték, ha erre kérték, azonnal lefagyott. Különböző összeesküvés-elméletek születtek a témához kapcsolódóan, azonban egy sokkal hétköznapibb ok állhat a furcsa viselkedés hátterében.
A hétvégén gyorsan elterjedt a hír, hogy ez a név „mérgező” a chatbot számára, ezért egyre többen próbálták rávenni a rendszert, hogy egyszerűen csak ismerje el a név létezését. Eredménytelenül: minden próbálkozás során, amikor a ChatGPT „kimondta” ezt a nevet, meghibásodáshoz vezetett, vagy a válasz egyszerűen megszakadt a név leírása közben.
„Nem tudok választ adni”, válaszolta, ha egyáltalán született válasz.
A leleményes felhasználók azonban felfedezték, hogy nem David Mayer az egyetlen, akit a ChatGPT nem tud megnevezni. A szolgáltatás összeomlasztásához Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber és Guido Scorza neve is elegendő (David Mayer neve azóta lekérdezhető, a többiekké továbbra sem – a szerk.).
Induljon a nyomozás
Kik ezek az emberek? És miért gyűlöli őket ennyire a ChatGPT? Az OpenAI nem adott ki hivatalos nyilatkozott, így mi rakjuk össze a kockákat, amennyire csak tudjuk.
A nevek némelyike több emberhez is tartozhat. De a ChatGPT felhasználói által azonosított egyik lehetséges kapcsolódási pont az, hogy ezek az emberek olyan közszereplők vagy félig-meddig közszereplők, akik esetleg jobban szeretnék, ha bizonyos információkat „elfelejtenének” a keresőmotorok vagy a mesterségesintelligencia-modellek.
Brian Hood valószínűleg az az ausztrál polgármester, aki megvádolta a ChatGPT-t, hogy hamisan ábrázolta őt egy évtizedekkel ezelőtti bűncselekmény elkövetőjeként, amelyről valójában ő tett feljelentést. Bár az ügyvédei felvették a kapcsolatot az OpenAI-val, perre nem került sor. Mint azt a Sydney Morning Heraldnak az év elején elmondta: „A sértő anyagot eltávolították, és kiadták a 4. verziót, amely felváltotta a 3.5-ös verziót”.
Ami a többi név legismertebb tulajdonosait illeti, David Faber a CNBC régóta dolgozó riportere. Jonathan Turley ügyvéd és a Fox News kommentátora, akit 2023 végén „lekapcsoltak” (azaz egy hamis segélyhívás miatt fegyveres rendőröket küldtek az otthonához). Jonathan Zittrain szintén jogi szakértő, aki sokat beszélt a „feledésbe merülés jogáról”. Guido Scorza pedig az olasz adatvédelmi hatóság igazgatótanácsának tagja. Nem éppen azonos szakterületen, és mégsem véletlenszerű a válogatás. Mindegyikük elképzelhető, hogy olyan személy, aki valamilyen okból kifolyólag hivatalosan kérte, hogy a rá vonatkozó online információkat valamilyen módon korlátozzák.
Visszatérve David Mayerhez: létezett egy David Mayer professzor, aki drámát és történelmet tanított, és a késő viktoriánus korszak és a korai filmművészet közötti kapcsolatokra specializálódott. Mayer 2023. nyarán, 94 éves korában halt meg. A brit-amerikai akadémikusnak azonban már évekkel korábban is jogi és online problémával kellett szembenéznie, mivel a nevét egy körözött bűnözővel hozták összefüggésbe, aki álnévként használta azt, olyannyira, hogy nem tudott utazni. Mayer folyamatosan harcolt azért, hogy a nevét ne azonosítsák a félkarú terroristával.
A konklúzió
Mit következtethetünk mindebből? Az OpenAI hivatalos magyarázatának hiányában a tippem az, hogy a modell bekebelezett vagy ellátott egy listát azokról az emberekről, akiknek a neve különleges kezelést igényel. Akár jogi, biztonsági, adatvédelmi vagy egyéb aggályok miatt, ezekre a nevekre valószínűleg speciális szabályok vonatkoznak, ahogy sok más névre és személyazonosságra is. Sok speciális szabály létezik, és minden kérés különböző feldolgozási formákon megy keresztül, mielőtt választ kapna. Ezeket a prompt utáni kezelési szabályokat azonban ritkán hozzák nyilvánosságra, kivéve az olyan politikai bejelentésekben, mint például „a modell nem fog választási eredményeket jósolni egyetlen képviselőjelölt számára sem”.
Valószínűleg az történt, hogy az egyik ilyen listát, amelyet szinte biztosan aktívan karbantartanak vagy automatikusan frissítenek, valahogy megrongálták hibás kóddal vagy utasításokkal, amelyek meghívásakor a chatbot azonnal lefagyott. Az egész dráma hasznos emlékeztető arra, hogy ezek az MI-modellek nem feltétlenül varázslatok, hanem valójában egy nagyon fejlett automatikus rendszerek, amelyeket az őket fejlesztő cégek aktívan felügyelnek és befolyásolnak.
