A vallási szövegeken kiképzett nagy nyelvi modellek azt állítják, hogy igény szerint spirituális meglátásokat kínálnak. Mi romolhat el?
Tavaly, a ramadán első napján, nem sokkal éjfél előtt Raihan Khan – egy 20 éves, Kolkatában élő muszlim diák – egy LinkedIn-bejegyzésben ismertette, hogy elindította a QuranGPT-t, egy mesterséges intelligenciával működő chatbotot, amelyet úgy tervezett, hogy az iszlám legszentebb szövege alapján válaszoljon kérdésekre és adjon tanácsokat. Aztán elment aludni: hét órával később arra ébredt, hogy a túl nagy forgalom miatt a rendszer összeomlott. A hozzászólások nagy része pozitív volt, mások viszont nem – utóbbiak egyenesen fenyegetők voltak.
Khan először nyomást érzett, hogy vegye le a chatbotot, de végül meggondolta magát. Úgy véli, hogy a mesterséges intelligencia egyfajta hídként szolgálhat, amely összeköti az embereket a legmélyebb spirituális kérdéseikre adott válaszokkal.
„Vannak emberek, akik közel akarnak kerülni a vallásukhoz, de nem hajlandók időt áldozni arra, hogy többet tudjanak meg róla. Mi lenne, ha mindezt könnyen elérhetővé tehetném egy felszólításon keresztül?”
kérdezte Khan.
A QuranGPT – amelyet már mintegy 230 ezer ember használ világszerte – csak egy, a vallási szövegeken képzett chatrobotok sorából, amelyek a közelmúltban jelentek meg az interneten. Ott van a Bible.Ai, a Gita GPT, a Buddhabot, az Apostol Pál AI, a 16. századi német teológus, Luther Márton utánzására kiképzett chatbot, egy Konfuciusz műveire képzett chatbot, és még egy másik, amelyet a delphoi jósda utánzására terveztek. A különböző vallások hívei évezredek óta hosszú órákat – vagy egész életeket – töltenek a szentírások tanulmányozásával, hogy betekintést nyerjenek az emberi lét legmélyebb titkaiba, például a lélek útjára a halál után.
A chatbotok alkotói nem feltétlenül hisznek abban, hogy a nagy nyelv modellek (LLM-ek) meg fogják oldani ezeket az ősi teológiai rejtélyeket. De úgy gondolják, hogy a robotok a hatalmas mennyiségű szövegben található finom nyelvi minták azonosítására és a felhasználói kérésekre emberi nyelven adott válaszokra való képességükkel (ezt a funkciót természetes nyelvi feldolgozásnak vagy NLP-nek nevezik) elméletileg másodpercek alatt szintetizálhatják a spirituális felismeréseket, időt és energiát spórolva ezzel a felhasználóknak. Ez isteni bölcsesség igény szerint.
LLM-ek a bibliafordítás szolgálatában
Sok hivatásos teológusnak azonban komoly aggályai vannak az LLM és a vallás keveredésével kapcsolatban. Ilia Delio, a Villanova Egyetem teológiai tanszékvezetője és több könyv szerzője a vallás és a tudomány átfedéséről, úgy véli, hogy ezek a chatrobotok – amelyeket lekicsinylően „Istenhez vezető parancsikonnak” nevez – aláássák azokat a spirituális előnyöket, amelyeket hagyományosan a vallási szövegekkel való hosszú, közvetlen foglalkozással értek el. Néhány világi MI-szakértő pedig úgy véli, hogy az LLM-ek használata a szentírás értelmezésére a technológia alapvető és potenciálisan veszélyes félreértésén alapul. A vallási közösségek azonban a mesterséges intelligencia számos típusát és felhasználási módját elfogadják.
Az egyik ilyen feltörekvő felhasználási terület a bibliafordítás. Korábban ez a munka fáradságos lassú volt: az először 1611-ben kiadott angol King James Biblia kapcsán hét évet, és egy sereg odaadó tudóst vett igénybe az ősi források lefordítása. Az LLM-ek azonban felgyorsítják a folyamatot, lehetővé téve a tudósok számára, hogy kiterjesszék a Biblia hatókörét. A „Paratext” nevű platform például NLP-t használ a Szentírás ezoterikus kifejezéseinek – például az engesztelés vagy a megszentelődés – lefordítására, weboldalán „a Szentírás hű fordításaként” jellemzi azt. Tavaly pedig a Dél-kaliforniai Egyetem informatikusai elindították a „Greek Room” nevű projektet, amely egy mesterséges intelligenciával működő chatbot interfész segítségével segíti a Bibliát „alacsony forrású” nyelvekre (azaz olyan nyelvekre, amelyekről kevés, vagy egyáltalán nem létezik írásos feljegyzés) fordítani.
Mark Graves informatikus úgy véli, hogy az LLM-ek elméletileg felhasználhatók lennének a merev vallási ortodoxia felrúgására.
„Bizonyos értelemben a teológiában nem sok újdonság van már vagy 800 éve. A generatív mesterséges intelligencia segíthet ebben az átmenetben, a dobozból való kitörésben … és új ötletek létrehozásában”,
mondja Graves, aki az „AI and Faith” nevű nonprofit szervezet igazgatója, amely az MI etikai kihívásaival foglalkozik.
Graves szerint képzeljünk el például egy olyan chatbotot, amelyet Szent Ágoston (Kr. e. 354-430) művein képeztek ki, és egy másikat, amelyet Aquinói Tamás (1225-1274 körül) művein képeztek ki. A teológusok ezután „beszélgethetnének” egymással ezzel a két nem kortárssal, ami esetleg gyümölcsöző kérdéseket vethetne fel, mondjuk a gonosz természetéről. Az LLM-ek mögött álló sztochasztikus mechanizmusokat egy kezdő diákhoz vagy akár egy kisgyerekhez hasonlítja, aki feltesz egy kérdést, amely egy újfajta gondolkodásmódot indít el valamiről.
Vallási hallucinációk
Más MI-szakértők azonban határozottan óvatosak. „Nagy lesz a kísértés, hogy pénzt, hírnevet és figyelmet szerezzenek azzal, hogy valamiféle kinyilatkoztató minőséget tulajdonítanak ezeknek a chatbotoknak”, mondja Thomas Arnold, a Tufts Egyetem technológiai etikával foglalkozó vendégkutatója, aki a Harvard Egyetemen vallástudományból is doktorált. A vallási szövegeken kiképzett chatbotok „ugyanazokat a hibákat fogják hordozni, mint jelenleg minden nagy nyelvi modell, amelyek közül a legnagyobb a hallucináció”, mondja Noreen Herzfeld, a minnesotai Saint John’s University teológiai és informatikai professzora:
„Kitalálnak dolgokat. És ha az emberek aztán azt hiszik, hogy amit ezek a modellek fecsegnek, az valóban a Koránban vagy az Újszövetségben van, akkor súlyosan félrevezethetők.”
Max Marion, egy gépi tanulással foglalkozó mérnök, aki a „MosaicML” nevű mesterséges intelligenciával foglalkozó cégnél az LLM-ek teljesítményének finomhangolásán dolgozik, aggódik amiatt, hogy Hollywood már beültette a közvélemény képzeletébe a téves képet, hogy az MI tévedhetetlenül igazat mond (gondoljunk például HAL 9000-re Stanley Kubrick 2001: Űrodüsszeia című filmjéből). De az LLM-ek – magyarázza – arra lettek tervezve, hogy a szavakat a statisztikailag leglogikusabb sorrendbe rendezzék; amit mi igazságnak nevezünk, az nem játszik szerepet az egyenletben.
A hallucináció veszélyét ebben a kontextusban fokozza, hogy a vallási irányultságú chatbotok valószínűleg akut érzékeny kérdéseket vonzanak – olyan kérdéseket, amelyeket az ember túlságosan kínosnak vagy szégyellősnek érezhet ahhoz, hogy egy papnak, egy imámnak, egy rabbinak vagy akár egy közeli barátnak feltegye. A QuranGPT tavalyi szoftverfrissítése során Khan rövid bepillantást nyerhetett a felhasználói promptokba, amelyek általában láthatatlanok számára. Emlékszik, hogy látta, hogy egy személy azt kérdezte: „Rajtakaptam a feleségem, hogy megcsal – hogyan válaszoljak?”. Egy másik, ami még aggasztóbb, azt kérdezte: „Megverhetem a feleségemet?”.
Khan elégedett volt a rendszer válaszaival (mindkét esetben vitára és erőszakmentességre buzdított), de a tapasztalat aláhúzta a vállalkozása mögött meghúzódó etikai súlyosságot. Valóban, más chatbotok is válaszoltak már sajnálatos tanácsokkal. Dokumentálták, amikor a Gita GPT gyilkosságot helyeselt, miközben a Bhagavad Gita részeit idézte. Azt mondja, hogy valakit megölni rendben van, amíg azt a dharma, vagyis a kötelességünk védelmében tesszük. Singler arra kéri az embereket, hogy bárki, aki tanácsot kér ezektől a chatrobotoktól, használja a gyanakvás hermeneutikáját – az óvatosságot, amely abból a tényből fakad, hogy a szavakat mindig sokféleképpen lehet értelmezni, nemcsak a hibás emberek, hanem most már a hibás gépek által is.
(forrás)
