Hónapokig tartó intenzív tárgyalásokat követően az Európai Parlament (EP) képviselői áthidalták nézeteltéréseiket, és ideiglenes politikai megállapodást kötöttek a világ első mesterséges intelligencia szabályrendszeréről.
Az AI Act egy kiemelt jogalkotási javaslat, amely a mesterséges intelligencia szabályozására irányul, annak potenciális kártékonysága alapján. Az Európai Parlament most már közeledik ahhoz, hogy hivatalossá tegye álláspontját az üggyel kapcsolatban, miután az uniós törvényhozók április 27-én politikai megállapodásra jutottak. A szövegen még kisebb technikai módosításokat végezhetnek a május 11-re tervezett, kulcsfontosságú bizottsági szavazás előtt, de várhatóan június közepén kerülhet plenáris szavazásra.
„Most már van egy olyan megállapodásunk, amelyben minden képviselőcsoportnak támogatnia kell a kompromisszumot anélkül, hogy alternatív módosítások benyújtásának lehetősége lenne”, mondta az EURACTIV-nak az Európai Parlament egyik tisztviselője. Az uniós törvényhozók az utolsó pillanatokig alkudoztak a javaslat legvitatottabb részeiről.
Általános célú mesterséges intelligencia
A vita hevesen vitatott témája volt, hogy miként kezeljük a nem konkrét céllal rendelkező mesterséges intelligencia rendszereket. A képviselők megerősítették azokat a korábbi javaslatokat, amelyek szigorúbb kötelezettségeket írnak elő az alapmodellekre: az általános célú mesterséges intelligencia alkategóriájára, amelybe olyanok tartoznak, mint a ChatGPT. Az egyetlen jelentős változás az utolsó pillanatban a generatív mesterséges intelligenciamodellekre vonatkozott, amelyeket az uniós joggal és az alapvető jogokkal – többek között a véleménynyilvánítás szabadságával – összhangban kell megtervezni és fejleszteni.
Az Európai Parlament az eddiginél szigorúbb szabályokat fog javasolni a ChatGPT-hez hasonló alapm modellekre, és megkülönbözteti őket az általános célú mesterséges intelligenciától.
Tiltott gyakorlatok
Egy másik politikailag érzékeny téma az volt, hogy milyen típusú AI-alkalmazásokat kell betiltani, mert úgy vélik, hogy azok elfogadhatatlan kockázatot jelentenek. Két héttel ezelőtt felmerült az ötlet, hogy be kellene tiltani a mesterséges intelligenciával működő eszközöket az interperszonális kommunikáció minden általános megfigyelésére. A javaslatot a konzervatív Európai Néppárt (EPP) ellenállása miatt ejtették. Cserébe a jobbközép törvényhozóknak el kellett fogadniuk a biometrikus azonosító szoftverekre vonatkozó tilalom kiterjesztését. Eredetileg csak a valós idejű használatot tiltották be, de a felismerő szoftvert csak súlyos bűncselekmények esetén és előzetes bírósági jóváhagyással lehetne utólagosan használni.
Az erős bűnüldözési frakcióval rendelkező néppárt az egyetlen részleges kivétel a megállapodás alól, amely szerint nem nyújtanak be alternatív módosításokat. A képviselőcsoport elfogadta, hogy nem nyújt be olyan „kulcsfontosságú” szavazatokat, amelyek veszélyeztetnék a teljes dosszié támogatását, de még megpróbálhatja megváltoztatni a biometrikus adatok utólagos tiltását.
Az AI-rendelet tiltja a „célzott” manipulációt is. A „célzatos” szóról vitát folytattak, mivel a szándékosságot nehéz lehet bizonyítani, mégis fenntartották, mivel a képviselők nem akarták túl szélesre nyitni a lehetőségeket.
Az érzelemfelismerő mesterséges intelligencia alapú szoftverek használata a bűnüldözés, a határigazgatás, a munkahelyek és az oktatás területén tilos.
Az uniós törvényhozók a prediktív rendőri beavatkozás tilalmát a bűncselekményekről a közigazgatási bűncselekményekre is kiterjesztették a hollandiai gyermekkedvezmény-botrány alapján, ahol egy hibás algoritmus miatt családok ezreit vonták tévesen felelősségre csalás miatt.
Magas kockázatú besorolás
Az eredeti javaslat automatikusan magas kockázatúnak minősítette a III. mellékletben felsorolt kritikus területek és felhasználási esetek alá tartozó AI-megoldásokat, ami azt jelenti, hogy a szolgáltatóknak szigorúbb rendszernek kell megfelelniük, beleértve a kockázatkezelésre, az átláthatóságra és az adatkezelésre vonatkozó követelményeket.
A képviselők egy plusz réteget vezettek be, ami azt jelenti, hogy a III. melléklet kategóriái alá tartozó AI-modell csak akkor minősülne magas kockázatúnak, ha az egészségre, biztonságra vagy alapvető jogokra nézve jelentős veszélyt jelentene.
A jelentős kockázatot a következőképpen határozzák meg: „olyan kockázat, amely súlyosságának, intenzitásának, bekövetkezési valószínűségének és hatásainak időtartamának kombinációja miatt jelentős, és amely képes egy személyt, személyek sokaságát vagy személyek egy meghatározott csoportját érinteni”.
A Zöldek kérésére a kritikus infrastruktúrák, például az energiahálózatok vagy a vízgazdálkodási rendszerek kezelésére használt mesterséges intelligenciát is a magas kockázatúak közé sorolnák, ha azok súlyos környezeti kockázattal járnak. A balközép törvényhozók emellett azt is elérték, hogy a digitális szolgáltatásokról szóló törvény (DSA) értelmében a nagyon nagy online platformok ajánlórendszerei is magas kockázatúnak minősüljenek.
Elfogultságok felderítése
A képviselők extra biztosítékokat írtak elő arra a folyamatra, amelynek során a magas kockázatú mesterségesintelligencia-modellek szolgáltatói olyan érzékeny adatokat dolgozhatnak fel, mint a szexuális irányultság vagy a vallási meggyőződés, hogy felismerjék a negatív előítéleteket. Az ilyen különleges adattípusok feldolgozásához elengedhetetlen, hogy a torzítás ne legyen kimutatható szintetikus, anonimizált, álnevesített vagy titkosított adatok feldolgozásával.
Ezen túlmenően az értékelésnek ellenőrzött környezetben kell történnie. Az érzékeny adatok nem továbbíthatók más felek részére, és az elfogultsági vizsgálatot követően törölni kell őket. A szolgáltatóknak dokumentálniuk kell, hogy miért került sor az adatfeldolgozásra.
A magas kockázatú mesterséges intelligencia rendszereknek nyilvántartást kell vezetniük környezeti lábnyomukról, az alapmodelleknek pedig meg kell felelniük az európai környezetvédelmi szabványoknak.
Általános elvek
A legutóbbi ülést megelőzően a társelőadók hivatala egy általános elvekre vonatkozó javaslatot terjesztett elő, amely minden mesterséges intelligenciamodellre vonatkozna. Az új cikk nem hivatott új kötelezettségeket teremteni, hanem a technikai szabványokba és az iránymutató dokumentumokba kell majd beépíteni. Ezek az elvek magukban foglalják az emberi ügyintézést és felügyeletet, a műszaki robusztusságot és biztonságot, a magánélet védelmét és az adatkezelést, az átláthatóságot, a társadalmi és környezeti jólétet, a sokszínűséget, a megkülönböztetésmentességet és a méltányosságot.
