A mesterséges általános intelligencia (AGI) – amelyet gyakran „emberi szintű MI”, vagy „általános intelligens cselekvés” néven emlegetnek – jelentős jövőbeli ugrást jelent a mesterséges intelligencia területén.
A szűkebb értelemben vett mesterséges intelligenciával ellentétben, amely speciális feladatokra van szabva – például a termékhibák felderítésére, a hírek összegzésére vagy egy weboldal elkészítésére – az AGI a kognitív feladatok széles spektrumát fogja ellátni emberi, vagy annál magasabb szinten.
Az Nvidia éves GTC fejlesztői konferenciáján a sajtónak nyilatkozva Jensen Huang vezérigazgató úgy tűnt, hogy nagyon unja már a téma tárgyalását – nem utolsó sorban azért, mert elmondása szerint sokszor félreidézik.
MI az emberek felett
A kérdés gyakoriságának van értelme: a koncepció egzisztenciális kérdéseket vet fel az emberiség szerepéről és ellenőrzéséről egy olyan jövőben, ahol a gépek gyakorlatilag minden területen képesek az embereket felülmúlni. Az aggodalom lényege az AGI döntéshozatali folyamatainak és céljainak kiszámíthatatlanságában rejlik, amelyek nem biztos, hogy összhangban vannak az emberi értékekkel vagy prioritásokkal. (Ezt a koncepciót a sci-fi irodalom legalább az 1940-es évek óta mélyrehatóan vizsgálja). Aggodalomra ad okot, hogy amint az AGI eléri az autonómia és a képességek egy bizonyos szintjét, lehetetlenné válhat a megfékezése vagy az irányítása, ami olyan forgatókönyvekhez vezethet, amelyekben a cselekedetei nem láthatók előre vagy nem fordíthatók vissza.
Huang szerint az, hogy megjósoljuk, mikor fogunk látni egy elfogadható AGI-t, attól függ, hogyan definiáljuk azt:
„Ha az AGI-t úgy határoznánk meg, hogy az valami nagyon konkrét dolog legyen, egy olyan tesztkészlet, ahol egy szoftver nagyon jól teljesít – vagy talán 8 százalékkal jobban, mint a legtöbb ember –, akkor szerintem 5 éven belül eljutunk oda.”
Az említett tesztek lehetnek jogi vizsgák, logikai tesztek, gazdasági tesztek, vagy esetleg az orvosi előkészítő vizsga letételének képessége.
Az MI hallucináció orvosolható
Az ülésen Huangot arról kérdezték, hogy mi a teendő az MI hallucinációkkal – vagyis azzal a tendenciával, hogy egyes MI-k olyan válaszokat találnak ki, amelyek hihetőnek hangzanak, de nem a tényeken alapulnak. Láthatóan frusztráltnak tűnt a kérdés hallatán:
„Adjunk hozzá egy szabályt: minden egyes választ ellenőrizni kell.” Ezt a gyakorlatot „visszakeresés-javított generálásnak” nevezte, leírva egy olyan megközelítést, amely nagyon hasonlít az alapvető médiaműveltséghez: vizsgáljuk meg a forrást és a kontextust. Hasonlítsa össze a forrásban szereplő tényeket az ismert igazságokkal, és ha a válasz tényszerűen pontatlan – akár csak részben is –, dobja el az egész forrást, és lépjen tovább a következőre.
„A mesterséges intelligenciának nem szabadna csak úgy válaszolnia; előbb kutatást kell végeznie, hogy megállapítsa, melyik a legjobb válasz.”
Az Nvidia vezérigazgatója azt javasolja, hogy talán több forrás és ismert igazságforrás ellenőrzése a helyes út. Ez persze azt jelenti, hogy a választ létrehozó generátornak lehetőséget kell adni arra, hogy azt mondja: „Nem tudom a választ a kérdésedre”, vagy „Nem tudok konszenzusra jutni abban, hogy mi a helyes válasz erre a kérdésre”.
(forrás)
