Közös célok, mindenki által elfogadott közös szabályok, a növekedés és a profit mindenáron való hajszolásáról való lemondás – Gerd Leonhardt szerint mindezek szükségesek ahhoz, hogy az emberiség eljusson a „jó jövőbe”. Különösen fontos lenen a mesterséges intelligencia globális szabályozása, mert az MI olyan képességekkel rendelkezik, amelyekkel egyetlen korábbi felforgató technológia sem. A világhírű német jövőkutató, akivel a Techxpo konferencián tartott előadása után beszélgettünk, mégis optimista a jövőt illetően, és hisz abban, hogy a technológia segíthet legyőzni a technológia okozta problémákat is.
◼︎ Egy optimista jövőkutató
– Hogyan viszonyul manapság az emberiség a tudomány és a technológia fejlődéséhez? A mi generációnk, a mai 50-esek és 60-asok a technológia mindig előrelépést, valami pozitívat jelentett, legyen szó az űrprogramról, a személyi számítógépről vagy az internetről. Ma azonban sokan mintha félnének a technológiai fejlődéstől, nem akarnak továbblépni. Mi és miért változott meg?
– Ez nem más, mint a „túl sok a jóból” ismert jelensége. Ha nincs internet, megőrülünk, mert nem tudunk megnézni egy weboldalt v agy elküldeni egy emailt. Amikor az internet már mindenütt és mindenkor befurakszik az életünkbe, amikor már minden csatlakozik a netre, az sem jó. Úgy érezzük, állandóan figyelnek bennünket és függővé válunk a technológiától, mint ahogy a jelenlegi fiatal generációk bizonyos értelemben függővé váltak.
Ha valami már túl sok lett, akkor már igénylünk valamilyen védelmet, szabályozást, ahogy az például az alkoholfogyasztás vagy a dohányzás esetében is történik. Ugyanez áll a technológiákra is. Ha már kezd túl sok lenni, meg kell értenünk, hogy mi az, ami még jó számunkra, és milyen mértékig.
Vegyük például a mesterséges végtagokat. Óriási segítség egy balesetet szenvedett embernek, hogy kaphat protézist, amelyek – kiviteltől függően – már majdnem úgy mozgathatók, mint az emberi végtagok. De mit kezdjük azokkal, és már vannak ilyen emberek, akik az egészséges végtagjaikat akarják lecserélni protézisre, mert azok jobb lennének mondjuk hegymászáshoz? Ez már arány kérdése.
Ugyanez igaz a mesterséges intelligenciára is. Biztonságosan és az emberiség javára kellene használnunk, csak éppen fogalmunk sincs, hogy ezt miként érhetjük el. Ráadásul a bizalom is csökkent az életünket meghatározó nagy technológiai vállalatokban. 20-30 éve még bíztunk a távközlési társaságokban és a bankokban. De bízunk ma a Metában? És a Google-ban? Csökkent irántuk a bizalom, mert már nagyobbak lettek, mint a bankok vagy az olajtársaságok és úgy működnek, mintha a nemzeti szabályozások felett állnának. Nem bízunk a közösségi médiában, mégis használjuk, mert függünk tőle, és frusztrál minket.
Azt hiszem, vissza kell hoznunk az emberi elemet a technológiába. A mesterséges intelligencia és a többi technológia kiváló eszköz például arra, hogy a jó írók még jobb szövegeket írjanak és még több emberhez jussanak el. De arra nem jó, hogy helyettesítsék az írót.
– Ahogyan ön is mondta az előadásában, a technológia nem fog egy rossz íróból jó írót faragni.
– Nem, csak még több rossz írót fog létrehozni. De ha valaki például meg akarja tanulni, hogyan legyen jó író, vagy segítséget kér egy könyv megírásához, a technológia nagy segítségére lehet. Azt azonban látni kell, hogy az erőfeszítés is a végeredmény része. Ha nem teszel erőfeszítést, nem lesz eredmény. Vagyis a technológiára szükség van, csak tudnunk kell használni, és ha magunktól nem tudjuk, akkor szükség van szabályozásra is.
– Megemlített egy fontos kérdést az előadásában, mégpedig azt, hogy meg is kell-e tennünk, amit tudományos szempontból meg tudunk tenni? A tudósok, a feltalálók nagyon sokáig határozott igennel válaszoltak erre a kérdésre. Aztán a géntechnológia és most a mesterséges intelligencia kapcsán is egyre többször merül fel a kérdés, hogy meg kell tennünk valamit csak azért, mert képesek vagyunk rá? A kérdésem igazából arra irányul, hogy megbízhatunk-e a tudósokban és a kutatókban, hogy visszafogják magukat, és nem élnek vissza a technológia adta lehetőségekkel?
– Igen, és ez a kérdés még fontosabb lesz a közeljövőben. Most még emberek találnak fel mindenféle dolgokat, de hamarosan eljön az az idő, amikor a mesterséges intelligencia talál fel új dolgokat, például új gyógyszereket. Ilyenkor még inkább meg kell tudunk válaszolni a legalapvetőbb etikai kérdéseket. Nem akarjuk, hogy olyan drónokat találjanak fel, amelyek közvetlen emberi parancs nélkül ölnek embert. Technikailag lehetséges, de etikai szempontból elfogadhatatlan.
„Fontos, hogy világos szabályokat alkossunk arról, hogy mi az, ami elfogadhatatlan a technológiai innováció szempontjából. Ezért is jó az európai AI Act, mert kimondja, hogy bizonyos képességű MI esetében a terméket nem lehet ellenőrzés és hatósági jóváhagyás nélkül piacra dobni. Az ilyen szabályok nélkülözhetetlenek az egyén és a társadalom túlélése szempontjából.”
Ezért fontos, hogy világos szabályokat alkossunk arról, hogy mi az, ami elfogadhatatlan a technológiai innováció szempontjából. Ezért is jó az európai AI Act, mert kimondja, hogy bizonyos képességű MI esetében a terméket nem lehet ellenőrzés és hatósági jóváhagyás nélkül piacra dobni. Az ilyen szabályok nélkülözhetetlenek az egyén és a társadalom túlélése szempontjából. Máskülönben olyan világban találjuk magunkat, ahol szuperképességekkel vértezzük fel magunkat, de nem valósul meg az emberek és társadalmak közötti együttműködés.
– Képes lesz az etikus gondolkodás felülírni a profit iránti vágyat? És mit ér az etikus fejlesztés, ha nem alkalmazzák mindenütt, hiszen ezzel hátrányba lehet kerülni azokkal szemben, akik erkölcsi aggályok nélkül fejlesztenek?
– Valóban, az etikus innováció bonyolult téma, az etika ugyanis gyakran összefügg a vallással és bizonyos kulturális meggyőződésekkel. Ezért szerintem célravezetőbb, ha emberi célokról beszélünk, mert azok univerzálisabbak, egységesebb alapot tudnak teremteni. És ha a cél az emberiség túlélése, akkor a növekedésbe és a profitba vetett hitnek végre, ahogy szerintem már vége van. Ha folyamatosan a növekedést hajszoljuk és csak a profitot keressük, mindent elpusztítunk magunk körül.
– Biztosan így van ez? Hiszen a fenntarthatósági célok elérése is kínkeservesen megy…
– Talán igen, de a pusztítás már jól látható, és az is nyilvánvaló, ha így folytatjuk, helyrehozhatatlan károkat okozunk a környezetünkben, visszafordíthatatlan lesz az éghajlatváltozás. De hogy ezt belássuk, ahhoz először szükség van a nyilvánvaló pusztításra. Nézzük a nukleáris fegyvereket. Megépítettük és bevetettük az atombombát, de aztán megtaláltuk a módját, hogy kordában tartsuk. Most ugyanezt kell tennünk a mesterséges intelligenciával. Bele kell építeni a rendszerekbe az alapvető emberi értékeket és a felügyelet lehetőségét, hogy valamilyen módon ellenőrizhessük. Ez a vita éppen most kezdődött.
Egyébként azt hiszem, ez generációs kérdés is. Az én generációm alapértéke a profit és annak növelése volt, hogy majd azzal oldjuk meg a problémákat. A fiatalabb korosztályok már sokkal több mindent tartanak fontosnak: a bolygót, a többi embert, a spiritualitást. A korábbi kapitalista társadalmunk a szemünk előtt szépen lassan átalakul fenntartható kapitalizmussá.
– Ennek ellenére néha mégis úgy tűnik, mintha a gondolkodásunk nem előre, hanem visszafelé haladna, rég elfelejtett hiedelmek jönnek vissza.
– Ez azért van, mert körülöttünk minden nagyon gyorsan változik, a technológia vagy a politikai és gazdasági világrend. Ki tudja, mi lesz? A gyors változástól félnek az emberek, és amikor félnek, akkor egy-két lépést visszalépnek. Számos országban az emberek azért szavaznak konzervatív vezetőkre, pártokra, mert félnek a változástól. De ez nem fog működni, nem tudunk visszatérni a szépnek gondolt múltba, mert az nem oldja meg a problémákat, csak elfojtja azokat. A változás elkerülhetetlen, csak meg kell tanulnunk kezelni.
– Ön az előadásában is elmondta, hogy a jelen problémáira nem a technológiától való visszalépés, hanem még több technológia a megoldás. De ha a jelek szerint a legtöbb problémát maga a technológia okozza, megoldhatjuk-e vele ezeket a problémákat?
– Jó részüket igen. Használhatjuk például a technológiát arra, hogy bizonyos felhasználási módok korlátozásával szabályozzuk a mesterséges intelligenciát. De még inkább hasznos lehet a gyakorlati problémák, az ivóvíz, az élelem vagy az energiagondok megoldásában. Persze, ha rosszul szabályozzuk a technológia használatát, akkor rosszul is járhatunk.
De ahogy említettem, az emberiség sokszor csak a saját hibájából tanul. A nukleáris energiára vonatkozó nemzetközi egyezmények is csak az atombombák ledobása után születtek meg. Talán ugyanez fog történni a mesterséges intelligenciával is. Majd amikor bekövetkezik egy MI okozta katasztrófa, mondjuk a légiforgalmi irányítási rendszer zavarai vagy tőzsdei összeomlás, akkor majd elgondolkodunk, hogyan is történhetett meg, és megkeressük a megoldást.
– Az egyik alaptézis a jobb jövő, amely azonban feltételezi az emberek közötti együttműködést. Ezzel kapcsolatban kicsit szkeptikus vagyok, hiszen azt látjuk, hogy országokon belül sem tudunk együttműködni, nemhogy globálisan.
– Egyszerű: ha nem működünk együtt, összeomlunk, ha együttműködünk, növekedünk. De ahogy korábban mondtam, sok a félelem az emberekben, és ennek egyik következménye, hogy bezárkózunk. De az emberek alapvetően nem rosszak, és képesek helyesen cselekedni. Vékony rajtunk a civilizációs máz, számtalan tevékenységünket az évmilliók alatt belénk kódolt ösztönök irányítják, mint a „harcolj vagy menekülj”, vagy hogy hajlamosak vagyunk mindent felhalmozni a rossz időkre készülve.
– Ha manapság a technológiáról vagy annak veszélyeiről beszélünk, elsősorban a mesterséges intelligenciát emlegetjük. Mi különbözteti meg az MI-t minden eddigi felforgató technológiától?
– Az MI-t én inkább tudománynak tartom, mint technológiának, amit ma MI-nek hívunk, az számomra inkább „intelligens asszisztens” vagyis nem AI, hanem IA. De a kérdésére válaszolva, a korábbi technológiák a fizikai képességeinket terjesztették ki: gyorsabban tudunk helyet változtatni, nehezebb terheket tudunk mozgatni, és így tovább. Az MI viszont a gondolkodásunkat változtatja meg, nem a testünk, hanem az elménk képességeit terjeszti ki. Ez pedig fundamentális különbség, mert az MI segítségével mentálisan is emberfelettivé tudunk válni. Arról se feledkezzünk meg, hogy az MI nem új keletű dolog, csak éppen most vált közismertté, mivel az átlagember is használni tudja a GenAI-t.
– Az általános mesterséges intelligenciát (artificial general intelligence-t, AGI-t) kifejezetten károsnak tartja. Kifejtené egy kicsit részletesebben, miért gondolja így?
– Azért, mert amikor okos szoftvereket és okos rendszereket hozunk létre, amelyek a problémák megoldásában segítenek, még nem adjuk át az irányítást. Felgyorsítjuk a folyamatot, könnyebbé tesszük magunk számára a dolgokat, mint egy elektromos szerszámmal.
Ha azonban olyan technológiát építünk, amely mindent, de szó szerint mindent tud, az elmúlt 5000 év emberi tudását, folyamatosan frissül a teljes internet adataival, és korlátlan feldolgozási kapacitással rendelkezik, akkor olyan gépet építünk, amely minden tekintetben fölénk kerekedik, kivéve talán a fizikai testet. De azt is meg lehet építeni.
– És ezt az emberek már nem tudják irányítani?
– Nem lesz irányítható, mert bármennyi adatot is használ fel a döntéseihez, bármennyire is intelligens is lesz, nem lesznek érzelmei. Mondjuk, megkérjük az AGI-t, hogy dolgozzon ki megoldást a klímaválságra. Megteszi, de könnyen lehet, hogy az nagyon nem fog nekünk tetszeni – például azt mondja, hogy szigorú születésszabályozásra van szükség, nem lehet gyereket vállalni, majd befolyásolja a politikai döntéshozatalt és a médiát, hogy ennek érvényt szerezzen.
Ezért nevezik néhányan „idegen intelligenciának” (AI, az angol „alien intelligence” nyomán), mert nem emberi, bár mi építettük. Olyan képességekkel rendelkezhet, hogy ha kikapcsoljuk, nem tudunk tovább létezni, mert mindent ez működtet. Ha pedig bekapcsolva hagyjuk, ez válik az elsődleges intelligenciává, az ember pedig a második helyre szorul.
– A mindennapi életében vagy munkájában hogyan használja a mesterséges intelligenciát, vagy ahogy ön nevezi, az intelligens asszisztenseket?
– Leginkább tudásmenedzsmentre használom, mert sok ismeretet kell elsajátítanom. Havonta öt-tíz könyvet olvasok el, és ha tehetem, ezeket felöltöm az eszközökbe, hogy később kérdéseket tudjak feltenni a szövegről, és ne kelljen újra és újra átlapoznom a könyvet. Aztán olyan gyakorlati dolgokra is igénybe veszem, mint a fordítás.
Használom arra is, hogy fejlesszem magam. Jelenleg spanyolul tanulok, mert van egy házam Spanyolországban. Ezért spanyolul beszélek a ChatGPT-vel, az észreveszi a hibáimat, és segít azokat kijavítani.
– Mennyire bízik meg ezekben az MI-eszközökben?
– Nagyjából annyira, mint a Google Térképben, ami nem túl sok. Például ha Nigériában, Lagosban vezetnék, akkor biztosan arra hagyatkoznék, mert nem lenne más választásom, de a saját lakóhelyem környékén aligha venném igénybe. Vagyis támaszkodom rá, de többnyire ellenőrzöm a válaszait.
– Ön szerint milyen lesz a jövőnk, a világunk 2040-ben? Először 2030-at akartam kérdezni, de az már csak öt év múlva van. Szóval 2040-ben milyen lesz az életünk?
– Van néhány dolog, amit én „kemény jövőnek” hívok; ezek azok a dolgok, amelyek biztosan bekövetkeznek, amelyek egyértelműek. Ennek része az is, hogy a fosszilis tüzelőanyagoktól elmozdulunk a zöld energia felé. 2040-re valószínűleg feltaláljuk a nukleáris fúziót, ami megoldja az energiakérdést. Ha az energiakérdés megoldódik, akkor megoldhatjuk a vízproblémát is. Ha a vízproblémát megoldjuk, akkor az élelmezési probléma is megoldható. Vagyis 2040-re valószínűleg megoldjuk a nagyobb gyakorlati problémákat, mint a víz, az élelem, az energia, a járványok.
Ezzel együtt viszont a technológia olyan szintre jut, hogy semmi sem működik nélküle. És ez már nehezebb kérdéseket vet fel. Védekezési mechanizmusokra lesz szükségünk, hogy csak arra használjuk a technológiát, amire szeretnénk. Ugyanaz a technológia gyógyíthatja a rákot, mint amellyel „szuperkatonákat” állíthatunk elő, de míg az első kívánatos, a második nem.
Az egyetlen mód ennek megoldására a nemzetközi együttműködés és globális szabályok kidolgozása. Az nem működik, hogy Európában korlátozzuk magunkat, miközben mindenki más lehagy bennünket. Mindenkit együttműködésre kell bírni, hogy közös szabályokat alkossunk. Például, létrehozhatsz intelligens digitális lényt, de csak bizonyos szabályok betartásával, és nem fejleszthetsz szuperkatonát, csak mert lehetséges.
