Az Egyesült Királyságban elterjedt a diákok között az MI által generált képek rosszindulatú felhasználása. A gyerekek sértő és megalázó deepfake képeket generáltak más gyerekekről, nagy botrányt okozva ezzel, figyelmeztetett egy gyermekbántalmazással foglalkozó szakértői csoport.
A gyermekvédelmi csoportok sürgős intézkedésekre szólítottak fel, hogy segítsenek a tanulókkal megértetni a gyermekek szexuális zaklatására irányuló képgenerálás jogi kockázatait. Kiderült, hogy számos iskolában észlelték a jelenséget, melynek során a gyerekek a mesterséges intelligencia-generáló technológiával kimerítették a gyermekek szexuális zaklatásának jogi tényállását.
Zaklatás fotorealisztikus hamisítványokkal
Emma Hardy, az Egyesült Királyság Biztonságosabb Internet Központjának (UKSIC) igazgatója szerint a képek „rémisztően” valósághűek voltak. „A szóban forgó képek minősége össze is téveszthető az ország iskoláiban tanuló gyerekekről évente elkészített professzionális fotókkal” – mondta Hardy, aki egyben az Internet Watch Foundation kommunikációs igazgatója is.
„A mesterséges intelligencia által generált, valódi gyermekekről készült hamis képek fotorealisztikus jellege gyakorlatilag azt jelenti, hogy a képeken szereplő gyerekek konkrétan szexuális zaklatás áldozatainak tekinthetők. Figyelmeztetni kell a gyerekeket, hogy ezek a képek elterjedhetnek az interneten, és szexuális ragadozókhoz kerülhetnek. A technológiával való visszaélés lehetősége, illetve bekövetkezése ijesztő”, mondta Hardy.
Az UKSIC gyermekvédelmi szervezet szerint az iskoláknak sürgősen cselekedniük kell, hogy jobb tartalomblokkoló rendszereket hozzanak létre a gyermekbántalmazással kapcsolatos anyagok terjedése ellen.
„Ezek az illetlen képek, melyeket a gyerekek készítettek, nem is számítanak igazán meglepetésnek. Az ilyen típusú rosszindulatú felhasználással bizony számolni kellett, amikor az új technológiák, például az MI-képgenerátorok hozzáférhetőbbé váltak a nagy nyilvánosság számára is”, tette hozzá David Wright, az UKSIC igazgatója.
Közelgő vihar
„Lehet, hogy a gyerekek ilyen módon fedezik fel az MI képgenerátorokban rejlő lehetőségeket anélkül, hogy teljesen felmérnék az általuk okozott károkat. Bár az esetszám egyelőre relatíve alacsony, még lehetséges, hogy csupán egy nagyobb hullám elején tartunk. Ugyanakkor már most ki kell találnunk, hogy mit fogunk ez ellen tenni, még mielőtt az iskolákat túlterheli ez a probléma, és sokkal nagyobb baj következne”, mondta a szakember.
A gyermekek szexuális zaklatását ábrázoló képek természetesen illegálisak az Egyesült Királyságban, legyenek akár mesterséges intelligencia által generáltak, akár hagyományos fényképek. Még az ilyen jellegű rajzfilmeket vagy más, kevésbé valósághű ábrázolásokat is tilos létrehozni, birtokolni és terjeszteni. A múlt hónapban az Internet Watch Foundation arra figyelmeztetett, hogy
a mesterséges intelligencia által generált, gyermekek szexuális zaklatását ábrázoló képek „fenyegető mértékben elszaporodtak az interneten”, mivel sok ezek közül már annyira valósághű, hogy még képzett elemzők számára is megkülönböztethetetlen a valódi képektől.
A nemzetközi trendek fiatalabb generációk közötti terjedésének természetét ismerve talán nem ártana Magyarországon is felkészülni az ehhez hasonló ügyekre, úgy az áldozatok segítésének megtervezésével, mint a megelőző, felvilágosító és jogkövetkezményeket tudatosító kampányok elindításával. Hasznosabb az a köpönyeg az eső előtt, mint a vihar közepén. (Magyarországon is működik a Safer Internet mozgalom. A káros tartalmakat itt lehet bejelenteni.)
(forrás)
