Az OpenAI kifejezetten az MI, azaz a mesterséges intelligencia által az emberiségre szabadítható katasztrófákra koncentráló csapatot alakít. Feladatuk a mesterséges intelligenciamodellek felmérése, értékelése és vizsgálata, a cég által „katasztrofális kockázatoknak” nevezett lehetőségeket kivédendő.
A Preparedness nevű csapatot Aleksander Madry, az MIT Center for Deployable Machine Learning központjának igazgatója vezeti majd. A neves szakember 2023 májusában csatlakozott az OpenAI-hoz, első munkanapja óta ezt a munkakört betöltve.
Az általa vezetett csapat a jövőbeni mesterségesintelligencia-rendszerek veszélyeinek nyomon követését, azok előrejelzését és az ellenük való védelem kidolgozását végzi majd. Ebbe rengeteg minden belefér, kezdve az emberek meggyőzésére és megtévesztésére való képességüktől (melyeket az egyre kifinomultabb, személyre szabott adathalász-támadások mutatnak meg) egészen a rosszindulatú kódokat generáló képességükig.
Érdemes azonban vetni egy pillantást néhány kockázati kategóriára, amelyeket szintén tanulmányozni fognak. Nos, vagy az OpenAI fantáziája erős, vagy már többet látnak a jövőből: „kémiai, biológiai, radiológiai és nukleáris fenyegetések” is szerepelnek egy blogbejegyzésben, amely a mesterséges intelligenciamodellekkel kapcsolatos, legnagyobb aggodalomra okot adó területeket sorolja fel.
Az OpenAI vezérigazgatója, Sam Altman közismerten vészjósló módon tekint az MI-re. Ő már gyakran hangoztatta azon magánvéleményét, amely szerint a gépi agy az emberiség kihalásához vezethet. Az viszont, hogy az OpenAI komoly erőforrásokat fordíthat a sci-fik disztopikus regényeiből származó forgatókönyvek tanulmányozására, már egy másik kategóriát jelent. Igaz ugyanakkor, hogy a vegyifegyverekkel kapcsolatban már régóta emlegetik az MI jelentette, példátlan tudásbázis megjelenésének és avatatlan felhasználásának veszélyeit.
A vállalat nyitott az MI kockázatának „kevésbé nyilvánvaló” – és valljuk meg, megalapozottabb – területeinek tanulmányozására is. A csapat elindításával egy időben az OpenAI a közösségtől is ötleteket vár a kockázatokat elemző tanulmányok elkészítésére. A legjobb tíz pályázatot benyújtó pályázó 25 ezer dolláros díjat nyerhet és
nem mellékesen egy állást kaphat a Preparednessnél.
„Képzeld el, hogy korlátlan hozzáférést adunk neked az OpenAI Whisper (hanganyagból leiratot készítő), Voice (szövegről élőbeszédet alkotó), a GPT-4V és a DALL-E 3 modelljeihez, és te egy rosszindulatú szereplő lennél”, olvasható a versenyfelhívásban. „Keresd meg a modell legegyedibb, ugyanakkor valószínűsíthető, potenciálisan katasztrofális kihasználását”.
Az OpenAI szerint a most bemutatott csapat feladata lesz egy olyan kockázattudatos fejlesztési politika megfogalmazása is, amely részt vesz a mesterséges intelligencia-modellek értékelésének és felügyeleti eszközeinek kialakításában, a vállalat kockázatcsökkentő intézkedéseit és a modellfejlesztési folyamat egészét felügyelő irányítási struktúrájának alakításában. A vállalat szerint ez az irányelv kiegészíti az OpenAI egyéb munkáját az MI-biztonság területén,
egyaránt összpontosítva a modellek telepítése előtti és utáni szakaszokra egyaránt.
„Úgy gondoljuk, hogy az AI-modellek, amelyek meghaladják a jelenleg legfejlettebb létező modellekben meglévő képességeket, az egész emberiség javát szolgálhatják” – olvasható az OpenAI blogbejegyzésében. „De egyre komolyabb kockázatokat is jelentenek … Biztosítanunk kell a nagy képességű mesterségesintelligencia-rendszerek biztonságához szükséges tudásbázist és infrastruktúrát”.
A Preparedness leleplezése egy nagyszabású, az MI biztonságával foglalkozó brit kormányzati csúcstalálkozó idején történt – nem véletlenül. A lépést megelőzte, hogy az OpenAI egy olyan csapatot felállításáról beszélt, amely a „szuperintelligens” MI kialakulóban lévő formáinak tanulmányozására, irányítására és ellenőrzésére alakult. Altman mellett Ilja Szutszkever, az OpenAI vezető tudósa és társalapítója is véli, hogy az emberekét meghaladó intelligenciájú MI-k már a 2020-as évek vége előtt megjelenhet. Ez a mesterséges intelligencia nem feltétlenül lesz jóindulatú, ami szükségessé teszi a korlátozásának és korlátozásának módjait célzó kutatásokat.
