Az Open AI, a Microsoft, a Google, az Anthropic és további szervezetek kezdetben 10 millió dollárt ajánlottak fel egy alaphoz, amelynek célja, hogy segítsen a mesterséges intelligencia biztonsági szabványainak emelésében és a hatóságok által a technológia ellenőrzéséhez szükséges ellenőrzések meghatározásában.
A mesterséges intelligencia biztonsági alapjának bejelentése része volt a Frontier Model Forumról szóló frissítésnek, a fenti kvartett által júliusban létrehozott iparági szövetségnek, amely a jövőbeli, fejlett, nagyméretű gépi tanulási modellek biztonságos és felelősségteljes használatának előmozdítására összpontosít, mivel egyre több hatóság és nagy iparági szereplő fejezte ki aggodalmát a fejlődés ütemével és az MI etikájával kapcsolatban.
A partnerek bemutatták Chris Meserole-t a Frontier Model Forum első ügyvezető igazgatójaként, aki korábban a Brookings Institution amerikai trösztnél az AI and Emerging Technology Initiative igazgatója volt.
„A legerősebb mesterségesintelligencia-modellek óriási ígéretet hordoznak a társadalom számára, de ahhoz, hogy kiaknázzuk a bennük rejlő lehetőségeket, jobban meg kell értenünk, hogyan lehet őket biztonságosan fejleszteni és értékelni. Izgatottan állok e kihívás elé a Frontier Model Forummal,”
mondta Meserole.
A pénzeszközzel a négy vállalat által „a határterületi rendszerek potenciálisan veszélyes képességeinek” nevezett MI-modellek értékelésére szolgáló technikákkal kapcsolatos tudományos kutatásokat támogatják.
A finanszírozást a Meridian Institute osztja ki, amelyet egy külső szakértőkből, az MI-vállalatok képviselőiből és a támogatással foglalkozó szakemberekből álló tanácsadó bizottság támogat.
„Úgy véljük, hogy az ezen a területen megnövelt finanszírozás segíteni fogja a biztonsági és védelmi szabványok emelését, és betekintést nyújt azokba az enyhítésekbe és ellenőrzésekbe, amelyekre az iparnak, a kormányoknak és a civil társadalomnak szüksége van ahhoz, hogy választ adjon az MI-rendszerek által jelentett kihívásokra.”
A geopolitikai tech-sakkjátszma legutóbbi fordulójában októberben, az Európai Bizottság közzétette a riválisoktól védendő kritikus technológiák listáját, hogy ezzel is erősítse a blokk saját biztonságát. A dokumentum, amelyet a Bizottság digitális, védelmi és kereskedelmi vezetői a tagállamokkal konzultálva készítettek, egy kimenő beruházási és exportellenőrzési eszköz alapjául szolgál. A lista 10 technológiát tartalmaz, amelyek alkalmazásai az emberi jogok potenciális megsértésétől kezdve a katonai robotokon át a kvantumfelettiségig, a génmódosításig és a csillagközi utazásig terjednek. A Bizottság állítólag négyet tart különösen veszélyesnek, ha rossz kezekbe kerülnének, beleértve a mesterséges intelligencia technológiákat (nagy teljesítményű számítástechnika, felhő- és szélsőséges számítástechnika, adatelemzés, számítógépes látás, nyelvfeldolgozás, tárgyfelismerés).
