Az EU tagállamokkal tárgyalt és 2023 decemberében elfogadott rendeletet a képviselők 523 igen szavazattal, 46 nemmel és 49 tartózkodással támogatták.
A törvény célja, hogy megvédje az alapvető jogokat, a demokráciát, a jogállamiságot és a környezeti fenntarthatóságot a magas kockázatú mesterséges intelligencia ellen, valamint fellendíti az innovációt, miközben Európa vezető szerepet tölt be ezen a területen. A rendelet kötelezettségeket ír elő a mesterséges intelligencia számára annak lehetséges kockázatai és hatásszintje alapján.
Tiltott alkalmazások: kameraképek, társadalmi pontozás
Az új szabályok betiltanak bizonyos mesterséges intelligencia alkalmazásokat, amelyek veszélyeztetik az állampolgárok jogait, ideértve az érzékeny jellemzőkön alapuló biometrikus kategorizáló rendszereket, valamint az arcképek internetről vagy CCTV-felvételek felhasználását az arcfelismerő adatbázisok létrehozásához. Ugyancsak tilos lesz az érzelmek felismerése a munkahelyen és az iskolákban, a társadalmi pontozás, a prediktív rendfenntartás (amikor kizárólag egy személy profilalkotásán vagy tulajdonságainak felmérésén alapul), valamint az emberi viselkedést manipuláló vagy az emberek sebezhetőségét kihasználó mesterséges intelligencia.
Bűnüldözési mentességek
A biometrikus azonosítási rendszerek (RBI) bűnüldöző szervek általi használata elvileg tilos, kivéve néhány indokolt helyzetet: a „valós idejű” RBI csak szigorú biztosítékok betartása esetén alkalmazható, használata időben és földrajzilag korlátozott és előzetes bírósági vagy közigazgatási engedélyhez kötött. Ilyen felhasználások lehetnek például egy eltűnt személy célzott felkutatása vagy terrortámadás megelőzése. Az ilyen rendszerek utólagos használata nagy kockázatú felhasználási esetnek minősül, amely bűncselekményhez kötött bírósági engedélyt igényel.
A magas kockázatú rendszerek kötelezettségei
Egyértelmű kötelezettségeket irányoznak elő más magas kockázatú mesterségesintelligencia-rendszerekre is (az egészségre, a biztonságra, az alapvető jogokra, a környezetre, a demokráciára és a jogállamiságra gyakorolt jelentős potenciális károk miatt). Továbbá a magas kockázatú mesterséges intelligencia használatára, mint például a kritikus infrastruktúra, az oktatás és a szakképzés, a foglalkoztatás, az alapvető magán- és közszolgáltatások (egészségügy, banki szolgáltatások), bizonyos rendészeti rendszerek, migráció és határigazgatás, igazságszolgáltatás és demokratikus folyamatok (választások befolyásolása) kapcsán.
Az ilyen rendszereknek fel kell mérniük és csökkenteniük kell a kockázatokat, vezetniük kell a használati naplókat, átláthatóknak és pontosaknak kell lenniük, és biztosítaniuk kell az emberi felügyeletet. A polgároknak jogukban áll panaszt benyújtani az MI-rendszerekkel kapcsolatban, és magyarázatot kapni a jogaikat érintő, magas kockázatú mesterségesintelligencia-rendszereken alapuló döntéseikről.
Átláthatósági követelmények
Az általános célú mesterséges intelligencia (GPAI) rendszereknek és az ezeken alapuló GPAI-modelleknek meg kell felelniük bizonyos átláthatósági követelményeknek, beleértve az EU szerzői jogi törvényeinek való megfelelést és a képzéshez használt tartalom részletes összefoglalóinak közzétételét. Az erősebb GPAI-modellek, amelyek rendszerszintű kockázatot jelenthetnek, további követelményekkel szembesülnek majd, ideértve a modellértékelések elvégzését, a rendszerkockázatok értékelését és mérséklését, valamint az incidensek jelentését.
Ezenkívül a mesterséges vagy manipulált képeket, hang- vagy videótartalmat („mélyhamisítás”) egyértelműen meg kell jelölni.
Következő lépések
A rendeletet még jogász-nyelvész ellenőrzésnek vetik alá, és várhatóan a jogalkotási ciklus vége előtt véglegesen elfogadják (az úgynevezett helyesbítési eljárással). A törvényt a Tanácsnak is hivatalosan jóvá kell hagynia.
A határozat a Hivatalos Lapban való közzététele után húsz nappal lép hatályba, majd ezt követően 24 hónappal teljes mértékben alkalmazandó, kivéve: a tiltott tevékenységekre vonatkozó tilalmakat, amelyek a hatálybalépés időpontja után hat hónappal lépnek hatályba; gyakorlati kódexek (kilenc hónappal a hatálybalépést követően); általános célú mesterségesintelligencia-szabályok, beleértve az irányítást (12 hónappal a hatálybalépést követően); valamint a magas kockázatú rendszerekre vonatkozó kötelezettségek (36 hónap).
