A bántalmazás ellen fellépő kutatók azt feltételezték, hogy a mesterséges intelligencia képgenerátorokat nem befolyásolják az internet mélyén létező gyermekbántalmazási anyagok. Egy nemrégiben végzett vizsgálat azonban megállapította, hogy az MI generátorok képzéséhez használt adathalmazok ilyen tartalmakkal vannak feltöltve.
A mesterséges intelligencia képgenerátorokat gyermekbántalmazással és egyéb pedofil tartalmakkal képzik ki – derült ki egy tanulmányból. Egy nemrégiben végzett vizsgálat során kimutatta, hogy a széles körben használt mesterségesintelligencia-képgenerátorok aggasztó hibát rejtenek magukban: több ezer, gyermekek szexuális zaklatását ábrázoló képet. A nyugtalanító megállapítások a Stanford Internet Observatory által kiadott jelentésből származnak, amely arra szólítja fel a vállalatokat, hogy foglalkozzanak ezzel a riasztó problémával, és orvosolják az általuk kifejlesztett technológián belül.
A jelentés leleplezi, hogy ezek a gyermekek kizsákmányolását ábrázoló képekkel behálózott mesterségesintelligencia-rendszerek nem csak hamis gyermekeket ábrázoló explicit tartalmakat generálnak, hanem teljesen felöltözött tinédzserek fotóit is képesek valami nem megfelelő módon manipulálni. Eddig a visszaélések elleni kutatók, azt feltételezték, hogy a visszaélésszerű képeket előállító MI-eszközök a felnőttpornográfiából származó információkat és a gyermekekről készült ártalmatlan képeket úgy kombinálták, hogy azokat az internet más helyéről szedték össze. A Stanford Internet Observatory azonban magában a LAION AI adatbázisban több mint 3200 olyan képet fedezett fel, amelyeken a gyermekek szexuális zaklatásának gyanúja merült fel.
A LAION-t, az online képek és feliratok hatalmas indexét olyan kiemelkedő MI képalkotó modellek betanítására használják, mint például a Stable Diffusion. A jelentésre válaszul a LAION ideiglenesen eltávolította az adatállományait. A szervezet hangsúlyozza, hogy zéró tolerancia politikát folytat az illegális tartalmakkal szemben, és kijelenti, hogy az eltávolítás elővigyázatossági intézkedés az adatkészletek biztonságának biztosítása érdekében, mielőtt újra közzétennék azokat. Bár ezek a problémás képek a LAION hatalmas, 5,8 milliárd képből álló indexének töredékét teszik ki, a stanfordi csoport szerint ezek valószínűleg befolyásolják az MI-eszközök azon képességét, hogy káros kimeneteket generáljanak.
Emellett a jelentés szerint e képek jelenléte megerősíti a valódi áldozatok korábbi visszaéléseit, amelyek többször is megjelenhetnek.
A Stability AI, a LAION egyik kiemelkedő felhasználója elismeri a problémát, és azt állítja, hogy proaktív lépéseket tett a visszaélések kockázatának csökkentése érdekében. A Stabile Diffusion régebbi verziója azonban, amelyet az explicit képek generálásának legnépszerűbb modelljeként azonosítottak, továbbra is forgalomban van.
A stanfordi jelentés drasztikus intézkedéseket sürget, többek között a LAION-ból származó oktatóhalmazok eltávolítását és az explicit tartalmakkal kapcsolatos mesterségesintelligencia-modellek régebbi verzióinak eltüntetését. Emellett felszólítja az olyan platformokat, mint a CivitAI és a Hugging Face, hogy hatékony biztosítékokat és jelentési mechanizmusokat vezessenek be a visszaélésszerű képek generálásának és terjesztésének megakadályozása érdekében.
A megállapításokra válaszul a technológiai vállalatokat és a gyermekbiztonsági csoportokat arra ösztönzik, hogy fogadjanak el a videókban és képekben szereplő, gyermekeket bántalmazó anyagok nyomon követésére és eltávolítására használt intézkedésekhez hasonló intézkedéseket. A jelentés azt javasolja, hogy egyedi digitális aláírásokat rendeljenek a mesterségesintelligencia-modellekhez, hogy nyomon követhessék és eltávolíthassák a visszaélések eseteit.
Bár a mesterséges intelligencia által generált képek elterjedtsége a bántalmazók körében jelenleg csekély, a stanfordi jelentés hangsúlyozza, hogy a fejlesztőknek biztosítaniuk kell, hogy adatkészleteik ne tartalmazzanak bántalmazó anyagokat, és folyamatos erőfeszítéseket kell tenniük a káros felhasználások mérséklésére, ahogyan a mesterségesintelligencia-modellek terjednek.
