1945. július 16-án örökre megváltozott a világ. A Robert Oppenheimer által irányított Manhattan Projekt „Trinity” nevű kísérlete először tette képessé az emberiséget arra, hogy kiirtsa önmagát. Az új-mexikói Los Alamostól 337 kilométerre délre sikeresen felrobbantottak egy atombombát.
Nem sokkal ezt követően 1945. augusztus 6-án Hirosimára, majd három nappal később Nagaszakira is ledobtak két maghasadáson alapuló bombát, amelyek soha nem látott pusztító erőt szabadítottak fel. A második világháború vége törékeny békét hozott, amelyre sötét fellegként borult rá a láthatatlan új fenyegetés árnyéka. Mindeközben a nukleáris technológia a bőséges energia korszakát is ígérte, egy olyan jövő fenyegetésével, ahol a nukleáris háború civilizációnk végéhez vezethet. Technológiánk „robbantási sugara” globális méretűvé nőtt, és egyre világosabbá vált, a globális katasztrófa elkerülése érdekében nemzetközi együttműködésre lesz szükség.
Többek között ennek érdekében, 1952-ben 11 ország létrehozta az Európai Nukleáris Kutatási Szervezetet (CERN), és „tisztán kutatási alapokon nyugvó tudományos (nukleáris) együttműködéssel” bízta meg, egyértelművé téve, hogy a CERN kutatásait a közjó érdekében fogják majd felhasználni. A Nemzetközi Atomenergia-Ügynökséget (NAÜ) szintén 1957-ben hozták létre, hogy ellenőrizze a globális uránkészleteket és korlátozza a proliferációt. Többek között ezek az intézmények segítették a globális emberi társadalmat a túlélésben az elmúlt 70 évben.
Az MI képében új fenyegetés születik?
Vannak, akik szerint az emberiség most ismét a technológia „robbantási sugarának” növekedésével néz szembe, méghozzá a fejlett mesterséges intelligencia megjelenése miatt. Szerintük ez olyan hatalmas változásokat katalizáló technológia, ami korlátozások és szabályozás nélkül hagyva megsemmisítheti az emberiséget, de ha biztonságosan hasznosítják, jobbá teheti a világot.
A szakértők idén valóban sokat kongatták a vészharangot leginkább talán az általános mesterséges intelligencia (AGI) fejlesztésével kapcsolatban. A neves MI-tudósok és a legnagyobb MI-vállalatok vezetői – köztük Sam Altman az OpenAI-tól és Demis Hassabis a Google DeepMindtól – aláírták a Center for AI Safety nyilatkozatát, amely így szól: „Az MI okozta kihalás kockázatának mérséklését globális prioritásként kell kezelni, más társadalmi szintű kockázatokkal, például a világjárványokkal és az atomháborúval együtt”. Néhány hónappal korábban egy másik levél is született, melyben az óriási MI-kísérletek szüneteltetését követelték, ezt több mint 27 ezren írták alá, köztük a Turing-díjas Yoshua Bengio és Geoffrey Hinton. Azért ilyen sűrű és hangos a sok tiltakozó hang, mert a mesterséges intelligenciával foglalkozó vállalatok OpenAI (Microsoft), Google Deepmind, Anthropic nyílt célja az AGI létrehozása.
Ha ez sikerül, az AGI nem csupán a ChatGPT-hez hasonló chatbot lesz, hanem olyan mesterséges intelligencia, ami „autonóm és a legtöbb gazdasági tevékenységben felülmúlja az embereket”.
Egy új, MI-szabályozó nemzetközi szervezet terve
Ian Hogarth befektető és az Egyesült Királyság Foundational Model munkacsoportjának elnöke „istenszerű mesterséges intelligenciáknak” nevezte az AGI-t, és arra kérte a kormányokat, hogy lassítsák le a megépítésükért folytatott versenyt. Maguk a technológia fejlesztői is nagy veszélyt látnak benne, gondoljunk csak Sam Altman ellentmondásos nyilatkozataira, amelyek szerint „az emberfeletti gépi intelligencia (SMI) kifejlesztése jelenti valószínűleg a legnagyobb veszélyt jelenleg az emberiség fennmaradására”.
Nem csoda, ha mindezek után a világ vezetői egy nemzetközi intézmény létrehozását szorgalmazzák az AGI jelentette fenyegetés kezelésére: szüksége lenne egy új CERN-re vagy egy IAEA for AI jellegűre. Júniusban Joe Biden amerikai elnök és Rishi Sunak brit miniszterelnök is hasonló lehetőségről tárgyaltak, de Antonio Guterres, az ENSZ főtitkára szerint is szükségünk lenne egy ilyen szervezetre.
Nagyon úgy tűnik, hogy tekintettel a mesterséges intelligenciából eredő kockázatokra való reagálást célzó nemzetközi együttműködést övező növekvő konszenzusra, érdemes lenne konkrétan is meghatároznunk, hogy hogyan lehetne egy ilyen intézményt létrehozni.
A MI-től félünk: az ijedezés antikapitalista, központosító ereje
A Time magazin víziójában felmerülő – és egyelőre természetesen nem létező – MAGIC (Multilaterális AGI Konzorcium) a világ egyetlen olyan létesítménye lenne, ami a fejlett mesterséges intelligencia, biztonságot előtérbe helyező kutatására és fejlesztésére összpontosítana. A CERN-hez hasonlóan a MAGIC lehetővé tenné az emberiség számára, hogy az AGI-fejlesztést kivegye a magáncégek kezéből, és egy olyan nemzetközi szervezet kezébe adja, amelynek feladata a biztonságos MI-fejlesztés.
Amennyiben ez a – nevezzük csak a nevén: antikapitalista – szemlélet diadalmaskodna, a MAGIC kizárólagossággal rendelkezne a fejlett mesterséges intelligencia magas kockázatú kutatásával és fejlesztésével kapcsolatban. Más szervezetek számára tilos lenne önállóan AGI-fejlesztést folytatni. Ez a Time magazin szerint nem érintené az MI-kutatás és -fejlesztés túlnyomó többségét, és csak a határterületi, AGI-val kapcsolatos kutatásokra összpontosítana, hasonlóan ahhoz, ahogyan szerintük ma a veszélyesnek minősített K+F tevékenységet kezeljük más technológiák esetében. Példának a Time a halálos kórokozók mérnöki kutatását hozza, melyet egyenesen betiltottak, vagy nagyon magas biológiai biztonsági szintű laboratóriumokra korlátoztak. Ugyanakkor a gyógyszerkutatás túlnyomó többségét szabályozó ügynökségek, például az FDA felügyeli.
A jövendőmondó ugyanakkor úgy tesz, mintha nem tudnánk pontosan mi történik a nemzetközileg tiltott kutatásokkal, vagy technológiákkal. De tudjuk. A laborok sok esetben kihajóznak a világtengerekre, ahol sokkal nehezebb a nemzetközi jog érvényesítése bárkivel szemben.
A leláncolt MI-fejlesztés utópisztikus látomása
De vissza a vízióhoz: a MAGIC ebben az utópisztikus világban csak azzal foglalkozik majd, hogy megakadályozza a nagy kockázatú, legfejlettebb, mesterséges intelligencia rendszerek – az isteni mesterséges intelligenciák – kifejlesztését. A MAGIC-ban végzett kutatási áttöréseket csak akkor osztanák meg a külvilággal, ha azok bizonyítottan biztonságosak. A MAGIC-ben, globális moratóriumot vezetnek be az olyan mesterséges intelligenciák létrehozására, melyek számítási teljesítménye meghalad egy meghatározott mértéket. A Time közöl egy részletes elemzést is táblázatokkal és összehasonlító áttekintéssel arról, hogy miért számít a számítási teljesítmény. Ez a megközelítés hasonló lenne ahhoz, ahogyan nemzetközi szinten ma az urániumot kezeljük, ami az atomfegyverekhez és az energiához használt fő nyersanyag.
Az elgondolás szerint piaci verseny nélkül a MAGIC biztosítani tudná a technológia féken tartásához szükséges megfelelő biztonságot és védelmet, és az előnyöket minden aláíró fél között szétoszthatná. A CERN létezése precedensként szolgál arra, hogyan lehetne egy életképes MAGIC szervezetet felépíteni.
A Time magazin újságírója amellett tör lándzsát, hogy az AGI által jelentett egzisztenciális kockázat elhárítása ijesztő, és ezt a kihívást kockázatosnak tartja magáncégekre bízni. A lap következetesen az atomfegyverekhez hasonlítja az AGI-t, noha annak természetéről, veszélyeiről és egyáltalán, a létrehozásának lehetőségeiről is minimum komoly viták folynak. Muszáj hozzátennünk, hogy ma nem mondható meg még csekély biztonsággal sem, hogy mikor várható az AGI létrejötte, ez néhány év ugyanúgy lehet mint néhány száz, vagy akár az is elképzelhető, hogy egy szoftverrel soha nem érjük el ezt a fajta szingularitást.
