Az Európai Bizottság Belső Piaci és Állampolgári Jogi Bizottsága elsöprő többséggel megszavazta az „AI Act” javaslatot. Ha a törvényjavaslat törvényerőre emelkedik júniusban a plenáris szavazáson, akkor nehéz idők jöhetnek az MI-szolgáltatók számára.
| A törvény a világon az első ilyen jellegű, a mesterséges intelligencia alkalmazását szabályozó szabályrendszer lehet, ha az EU jövő hónapban esedékes plenáris ülésén elfogadják. Ezután a tervezet az Európai Tanács elé kerül, ahol tárgyalásokat folytatnak a törvény végleges formájáról. |
A 84:7 arányban (12 tartózkodás mellett) a bizottság által elfogadott uniós törvény a mesterséges intelligenciáról számos, fokozatosan szigorodó szabályt állapít meg a rendszer észlelt kockázati szintje alapján. E szabályok értelmében az EU által „az emberek biztonságára nézve elfogadhatatlan mértékű kockázatot” jelentő MI-rendszereket teljes mértékben betiltanák.
Az ilyen technológiák közé eredetileg a szociális pontozási rendszerek és a felhasználók manipulálására szubliminális technikákat alkalmazó technológiák tartoztak, de a törvényt a plenáris szavazásra bocsátó bizottságok számos módosítást eszközöltek.
A bizottságok képviselői a „nem elfogadható” kategóriába soroltak számos biometrikus azonosítási rendszert, köztük a közterületeken működő, valós idejű biometrikus azonosító rendszereket, azokat, amelyek érzékeny kategóriákat használnak az emberek csoportosítására, a prediktív rendőri rendszereket és az érzelemfelismerő rendszereket. A tiltott MI-gyakorlatok listájára felkerült a közösségi médiából és a zárt láncú (biztonsági) kamerarendszerekből származó biometrikus adatok lekérdezése is arcadatbázisok létrehozása céljából.
A bizottság változtatásai a „magas kockázatú” kategóriába sorolt rendszereket kibővítették az olyan MI-modellekkel, amelyek „árthatnak az emberek egészségének, biztonságának, alapvető jogainak vagy a környezetnek”, valamint amelyek a szavazók befolyásolására használhatók.
A bizottságok foglalkoztak a korábbi MI-aggályokkal
Az AI-törvényen dolgozó csoport több tagja a múlt hónapban aggodalmát fejezte ki amiatt, hogy az olyan általános célú rendszerek, mint a ChatGPT, a vártnál gyorsabban fejlődnek, és így az törvény hátul kullog az ilyen eszközök szabályozása tekintetében. Válaszul több sorral egészítették ki az alapmodellek és szolgáltatóik lefedésére, megkövetelve tőlük, hogy „garantálják az alapvető jogok, az egészség és biztonság, a környezet, a demokrácia és a jogállamiság szilárd védelmét” kódolják a botjaikba. Ennek kikényszerítésére a képviselők azt a követelményt is hozzáadták, hogy az MI-szolgáltatók rendszeresen értékeljék és mérsékeljék a kockázatokat, hogy megfeleljenek a követelményeknek, és engedélyezzék termékeik regisztrálását az uniós adatbázisban.
Az olyan generatív alapmodellek, mint a ChatGPT, szintén új követelményekkel fognak szembesülni, ha az AI Actet elfogadják, és bevezetik. Az átláthatósági szabályok előírnák a szolgáltatók számára, hogy tegyék közzé, hogy a tartalmat mesterséges intelligencia generálta, építsenek be olyan szabályokat, amelyek megakadályozzák, hogy a modellek illegális tartalmat generáljanak, és tegyék közzé a modell képzéséhez használt, szerzői jogvédelem alatt álló adatok összefoglalóit.
Mi lesz a nyílt forrású MI-vel?
A mesterséges intelligenciáról szóló törvény létrehozása 2021 áprilisa óta folyik. Tavaly az amerikai Brookings (egy, az alkotmányos jogokkal foglalkozó, ismert és elfogadott amerikai szervezet) képviselője azt mondta, hogy aggódnak, mert a tervezett a szabályok miatt az EU-ban a nyílt forráskódú szoftverekkel kapcsolatos erőfeszítések visszaszorulnak, ha a fejlesztőket felelősségre lehet vonni a kódjukkal való visszaélésért. Erre válaszul a bizottság képviselői a törvény szabályait mentességekkel egészítették ki a kutatók és a nyílt forráskódú licencek alapján nyújtott MI-komponensek számára.
