Az Egyesült Királyság adott otthont az AI Safety Summitnak, amelyen 28 ország – köztük az Egyesült Államok és Kína – vett részt, hogy a fejlett mesterségesintelligencia-rendszerek által jelentett potenciális kockázatokkal foglalkozzanak.
Az eseményen aláírták a „Bletchley-i Nyilatkozatot”, amely a fejlett mesterséges intelligencia potenciális ártalmaira figyelmeztet, és nemzetközi együttműködésre szólít fel a felelős mesterséges intelligencia telepítésének biztosítása érdekében. „Az MI-modellek legjelentősebb képességei komoly, akár katasztrofális károkat okozhatnak, akár szándékosan, akár véletlenül”, olvasható a nyilatkozatban, amely a csúcstalálkozó helyszínéről, a Bletchley Parkról, az Alan Turinghoz köthető történelmi második világháborús helyszínről kapta a nevét. Turing befolyásos korai spekulációkat írt a gondolkodó gépekről.
A gépi tanulás gyors fejlődése, beleértve a ChatGPT-hez hasonló chatbotok megjelenését, világszerte arra késztette a kormányokat, hogy fontolóra vegyék a mesterséges intelligencia szabályozását. Aggályaik vezettek a találkozóhoz, amelyet kritika ért a meghívottak listája miatt. A technológiai világ nagyvállalatai közül többek között az Anthropic, a Google DeepMind, az IBM, a Meta, a Microsoft, az Nvidia, az OpenAI és a Tencent képviselői voltak jelen.
A politikai csúcstalálkozón az Egyesült Államokból Kamala Harris alelnök és Gina Raimondo kereskedelmi miniszter is részt vett. Kína tudományos és technológiai miniszterhelyettese, Wu Zhaohui kifejezte Peking hajlandóságát arra, hogy fokozza a párbeszédet és a kommunikációt a mesterséges intelligencia biztonságáról.
A kockázatos jövő
A The Guardian szerint Rishi Sunak brit miniszterelnök megtapsolta a Bletchley-i nyilatkozatot, és hangsúlyozta, hogy azonosítani kell a fejlett mesterséges intelligenciával rendelkező rendszerekkel kapcsolatos potenciális kockázatokat, amelyek idővel felülmúlhatják az emberi intelligenciát. Ezzel a gondolatmenettel összhangban Elon Musk, aki részt vett a csúcstalálkozón, azt mondta:
„Először van olyan helyzet, hogy van valami, ami sokkal okosabb lesz, mint a legokosabb ember… Számomra nem egyértelmű, hogy egy ilyen dolgot valóban irányítani tudunk-e.”
Musk a mesterséges intelligencia feltételezett egzisztenciális veszélyeire figyelmeztető mozgalom egyik kiemelkedően szókimondó tagja volt. Egyes MI-szakértők, mint például a Google Brain társalapítója, Andrew Ng és a Meta vezető MI-tudósa, Yann LeCun azonban túlzónak nevezik ezeket a kockázatokat.
„A mesterséges intelligenciával foglalkozó tudósok és mérnökök nagy többségének (köztük nekem is) az a véleménye, hogy az egzisztenciális kockázatok körüli vita erősen túlzó és nagyon korai,”
írta LeCun október 9-én az X-en:
My greatest fear for the future of AI is if overhyped risks (such as human extinction) lets tech lobbyists get enacted stifling regulations that suppress open-source and crush innovation.
Read more in our Halloween special issue of the Batch: https://t.co/CNqP2TYBLM
— Andrew Ng (@AndrewYNg) October 31, 2023
Az MI technológia más kritikusai a hipotetikus veszélyek helyett inkább az MI által okozott jelenlegi, észlelt károkra összpontosítanak, beleértve a környezeti, adatvédelmi, etikai és elfogultsági kérdéseket.
Tapogatózás a sötétben?
Bár a csúcstalálkozó nemzetközi párbeszédet indított a mesterséges intelligencia biztonságáról, a The Times szerint nem fogalmazott meg konkrét politikai célokat. A mesterséges intelligencia egy nagyon tág fogalom, amelynek meghatározása homályos, és számos technológiát magában foglalhat, a sakkozó számítógépes programoktól kezdve a Python nyelven kódolni képes nagyméretű nyelvi modellekig. A nyilatkozat konkrétan az úgynevezett „határterületi mesterséges intelligenciára” utal, amelyet a dokumentum homályosan úgy határoz meg, mint „nagy képességű általános célú mesterségesintelligencia-modelleket, beleértve az alapítványi modelleket is, amelyek a feladatok széles körét képesek ellátni – valamint a vonatkozó specifikus, szűk értelemben vett mesterséges intelligenciát, amely olyan képességeket mutathat, amelyek kárt okozhatnak, és amelyek megfelelnek a mai legfejlettebb modellekben meglévő képességeknek vagy meghaladják azokat”.
Hasonlóképpen, továbbra sincs egyetértés abban, hogy mit kellene tartalmaznia a globális MI-szabályozásnak, illetve, hogy kinek kellene felelősnek lennie a kidolgozásáért. Az Egyesült Államok a maga részéről bejelentette egy különálló amerikai „AI Safety Institute” létrehozását, Biden elnök pedig nemrégiben adott ki végrehajtási rendeletet az MI-ról. Az Európai Unió egy olyan MI-törvénytervezeten dolgozik, amely szabályozási elveket és iránymutatásokat fogalmaz meg az egyes MI-technológiákra vonatkozóan.
Bár a csúcstalálkozó a mesterséges intelligencia biztonságával kapcsolatos nemzetközi együttműködés irányába tett lépést jelent, egyes elemzők szerint inkább a pózolás és a szimbolizmus felé hajlott.
