Egy, a neves Nature folyóiratban megjelent tanulmány szerint az egész, jelenlegi, AI-felbuzdulás egy alapvető csúsztatáson alapul: az intelligenciát a nyelvi képességekkel teszi egyenlővé, pedig az intelligencia nyelv nélkül is létezik, a nyelv „csupán” egy hatékony kommunikációs eszköz.
Az OpenAI ChatGPT, az Anthropic Claude, a Google Gemini és bármi, amit a Meta ezen a héten AI-terméknek nevez, chatbotok közös jellemzője, hogy elsősorban „nagy nyelvi modellek”, LLM-ek. Alapvetően rendkívüli mennyiségű nyelvi adat (amelyek nagy része az interneten található) gyűjtésén, a szavak (pontosabban a „tokenek” nevű al-szavak) közötti összefüggések megtalálásán, majd egy adott promptra adott kimenet előrejelzésén alapulnak. A generatív AI állítólagos komplexitása ellenére ezek a rendszerek valójában nyelvi modellek.
A probléma az, hogy a jelenlegi idegtudomány szerint az emberi gondolkodás nagyrészt független az emberi nyelvtől – és kevés okunk van azt hinni, hogy a nyelv egyre kifinomultabb modellezése olyan intelligenciát hoz létre, amely meghaladja vagy felülmúlja a miénket. Az emberek a nyelvet használják arra, hogy kommunikálják a gondolkodási képességük eredményeit, absztrakciókat alkossanak és általánosításokat tegyenek, vagyis azt, amit intelligenciának nevezhetünk. A nyelvet gondolkodáshoz használjuk, de ez nem jelenti azt, hogy a nyelv megegyezik a gondolkodással. E különbség megértése a kulcs ahhoz, hogy elválasszuk a tudományos tényeket az AI-lel túláradó vezérigazgatók spekulatív tudományos fantasztikus elképzeléseitől.
Az AI-hype gépezet kitartóan népszerűsíti azt az elképzelést, hogy hamarosan létrehozunk valami olyan intelligenset, mint az ember, vagy akár „szuperintelligenciát”, amely elhalványítja a saját kognitív képességeinket. Ha rengeteg adatot gyűjtünk a világról, és ezt egyre erősebb számítási kapacitással (vagyis Nvidia chipekkel) kombináljuk a statisztikai korrelációk javítása érdekében, akkor hamarosan megkapjuk az AGI-t. Csak méretezésre van szükségünk.
De ez az elmélet tudományosan súlyosan hibás. Az LLM-ek egyszerűen csak eszközök, amelyek a nyelv kommunikációs funkcióját utánozzák, nem pedig a gondolkodás és az érvelés különálló és egyedi kognitív folyamatát, függetlenül attól, hogy hány adatközpontot építünk. Evelina Fedorenko (MIT), Steven T. Piantadosi (UC Berkeley) és Edward A.F. Gibson (MIT) cikke a nyelv és a gondolkodás közötti kapcsolatot érintő több évtizedes tudományos kutatások remek összefoglalása, és két célt szolgál:
egyrészt lebontja azt a nézetet, hogy a nyelv adja a gondolkodási és érvelési képességünket,
másrészt pedig azt az elképzelést erősíti, hogy a nyelv egy kulturális eszközként fejlődött ki, amelyet arra használunk, hogy megosszuk egymással gondolatainkat.
Amikor saját gondolkodásunkra reflektálunk, gyakran úgy érezzük, mintha egy adott nyelven gondolkodnánk, és ezért a nyelvünknek köszönhetően gondolkodunk. De ha a nyelv elengedhetetlen a gondolkodáshoz, akkor a nyelv elvesztése egyúttal gondolkodási képességünk elvesztését is jelentené. Ez azonban nem így van.
Először is, a funkcionális mágneses rezonancia (fMRI) segítségével láthatjuk, hogy az emberi agy különböző részei aktiválódnak, amikor különböző mentális tevékenységeket végzünk. Kiderült, hogy amikor különböző kognitív tevékenységeket végzünk – például matematikai feladatot oldunk meg, vagy megpróbáljuk megérteni, mi zajlik egy másik ember elméjében –, agyunk különböző részei „világítanak” a nyelvi képességeinktől elkülönülő hálózatok részeként.
Másodszor, az agykárosodás vagy más rendellenességek miatt nyelvi képességeiket elvesztett emberekkel végzett tanulmányok egyértelműen bizonyítják, hogy ez a veszteség alapvetően nem rontja az általános gondolkodási képességet. „A bizonyíték egyértelmű”, állítják Fedorenko és társai, „számos olyan eset ismert, amikor súlyos nyelvi károsodással élő egyének … mégis sértetlen képességeket mutatnak sokféle gondolkodási forma végzésére”. Ezek az emberek képesek megoldani matematikai feladatokat, követni a nonverbális utasításokat, megérteni mások motivációját, és érvelni – beleértve a formális logikai érvelést és az ok-okozati érvelést a világról.
| Akinek van gyermeke, tudja hogy ő egy apró emberke, aki kíváncsian fedezi fel a körülötte lévő világot, tárgyakkal játszik, hangokat ad ki, arcokat utánoz, és egyéb módon tanul az interakciókból és tapasztalatokból. „A tanulmányok szerint a gyerekek nagyjából ugyanúgy tanulnak a világról, mint a tudósok – kísérleteket végeznek, statisztikákat elemeznek, és intuitív elméleteket alkotnak a fizikai, biológiai és pszichológiai területeken”, jegyzi meg Alison Gopnik kognitív tudós, mindezt még mielőtt megtanulnának beszélni. A csecsemők még nem tudnak nyelvet használni, de természetesen gondolkodnak! És minden szülő ismeri azt az örömöt, amikor gyermeke kognitív képességei idővel kialakulnak, legalábbis a tizenéves korára. |
A Nature cikkben megfogalmazott második fő állítás szerint a nyelv elsősorban egy eszköz, amelyet arra használunk, hogy megosszuk egymással gondolatainkat, egy „hatékony kommunikációs kód”. Ezt bizonyítja az a tény, hogy az emberi nyelvek sokfélesége ellenére bizonyos közös vonásokkal rendelkeznek, amelyek „könnyűvé teszik a használatukat, könnyen megtanulhatók és érthetőek, tömörek és hatékonyak, valamint ellenállnak a zajnak”.
Kognitív képességeink a nyelvnek köszönhetően javulnak, de nem a nyelv hozza létre vagy határozza meg őket. Ha elveszítjük a beszédképességünket, akkor is tudunk gondolkodni, érvelni, meggyőződéseket kialakítani, szerelmesek lenni és mozogni a világban; az, amit megtapasztalhatunk és gondolhatunk, továbbra is hatalmas. De ha elvesszük a nyelvet egy nagy nyelvi modellből, akkor szó (:)) szerint semmink sem marad.
Az AI-kutatói közösségben egyre inkább tudatosul, hogy az LLM-ek önmagukban nem elégséges modellek az emberi intelligenciára.
Például Yann LeCun, aki AI-kutatásáért Turing-díjat kapott és az LLM-ek prominens szkeptikusa, a nemrég távozott a Meta-tól, hogy egy AI-startupot alapítson, amely úgynevezett világmodelleket fejleszt: „rendszereket, amelyek megértik a fizikai világot, állandó memóriával rendelkeznek, képesek gondolkodni és komplex cselekvéssorozatokat tervezni”. Nemrégiben egy csoport prominens AI-tudós és „gondolkodó vezető” – köztük Yoshua Bengio (egy másik Turing-díjas), a Google korábbi vezérigazgatója, Eric Schmidt, és a neves AI-szkeptikus Gary Marcus – összefogott az AGI működő definíciója körül, amely szerint az AGI „olyan AI, amely megegyezik vagy meghaladja egy jól képzett felnőtt kognitív sokoldalúságát és jártasságát”. Ahelyett, hogy az intelligenciát „monolitikus képességként” kezelnék, azt javasolják, hogy fogadjuk el mind az emberi, mind a mesterséges kogníció modelljét, amely „sok különböző képességből álló komplex architektúrát” tükröz.
Szerintük az intelligencia körülbelül így néz ki:
Ezek a szakértők egyetértenek abban, hogy a nyelvi modellek egyszerű méretezésével nem jutunk el a célhoz, de az általuk javasolt megoldások nagyon eltérőek – jobb célokat tűznek ki, de nem adnak útmutatást azok eléréséhez. Az emberek jelenlegi gondolkodásmódjának lemásolása sem garantálja, hogy a mesterséges intelligencia rendszerek képesek lesznek az emberiség által elért kognitív ugrásokra.
| Thomas Kuhn „A tudományos forradalmak szerkezete” című könyvének köszönhetjük a „tudományos paradigmák” fogalmát, amely az adott pillanatban világunk megértésének alapvető kereteit jelenti. Kuhn szerint ezek a paradigmák nem az iteratív kísérletezés eredményeként „változnak”, hanem akkor, amikor olyan új kérdések és ötletek merülnek fel, amelyek már nem illeszkednek a világ meglévő tudományos leírásába. Einstein például a relativitás elméletét még azelőtt megalkotta, hogy bármilyen empirikus bizonyíték megerősítette volna azt. Ezen elképzelésből kiindulva Richard Rorty filozófus azt állította, hogy amikor a tudósok és a művészek elégedetlenek lesznek a meglévő paradigmákkal (vagy szókincsekkel, ahogy ő nevezte őket), akkor új metaforákat hoznak létre, amelyek új leírásokat adnak a világról – és ha ezek az új ötletek hasznosak, akkor azok válnak a valóságról alkotott közös megértésünkké. Így, érvelése szerint, „a józan ész a halott metaforák gyűjteménye”. |
(A címképet a Copilot rajzolta erre a promptra: „Rajzolj egy gonosz, digitális robotfejet a „Matrix” film zöld hátterén, képregényszerűen, 1000×690 pixeles legyen.”)
