Olga Loiek döbbenten tapasztalta, hogy az arca különböző videókban jelenik meg a kínai közösségi médiában, az interneten elérhető, könnyen használható generatív MI-eszközök eredményeként.
„Nem akarom, hogy bárki azt higgye, hogy valaha is mondtam ilyen szörnyű dolgokat az életemben. Ez egy ukrán lány arcának felhasználása Oroszország népszerűsítésére, őrültség! Az egész nagyon hátborzongató volt, mert láttam és hallottam magam olyan dolgokról beszélni, amelyeket soha nem mondtam”,
mondta a 21 éves, a Pennsylvaniai Egyetemen tanuló lány.
A képmását tartalmazó fiókoknak tucatnyi különböző neve volt, például: „Sofia, Natasha, April, Stacy”. Ezek a „lányok” mandarinul beszéltek – egy olyan nyelven, amelyet Olga soha nem tanult meg.
„Azt láttam, hogy a videók körülbelül 90 százaléka Kínáról és Oroszországról, a kínai-orosz barátságról beszélt, arról, hogy erős szövetségeseknek kell lennünk, valamint élelmiszerreklámokkal is találkoztam.”
Az egyik legnagyobb fiók a „Natasha importált élelmiszer” volt, több mint 300 ezer követővel. „Natasha” olyan dolgokat mondott, mint „Oroszország a legjobb ország. Szomorú, hogy más országok elfordulnak Oroszországtól, és az orosz nők Kínába akarnak jönni”, mielőtt elkezdte volna reklámozni az orosz édességeket. Mindez persze feldühítette Olgát, akinek a családja még mindig Ukrajnában él.
A YouTube-tól a Xiaohongshuig
Olga mandarinul beszélő mesterséges intelligencia hasonmásai 2023-ban kezdtek felbukkanni, nem sokkal azután, hogy elindított egy YouTube-csatornát, amelyet nem túl rendszeresen frissítenek. Körülbelül egy hónappal később üzeneteket kapott olyan emberektől, akik azt állították, hogy látták őt mandarinul beszélni a kínai közösségi médiaplatformokon.
Kíváncsiságtól vezérelve elkezdte keresni magát, és talált is MI hasonmásokat a „Xiaohongshu-n” – egy Instagramhoz hasonló platformon – és a „Bilibili” nevű, a YouTube-hoz hasonló videóoldalon.
Illegális tartalom, vagy mégsem?
A cég szóvivője a BBC-nek elmondta, hogy a rendszerüket feltörték, és létrehozzák az általuk „jogosulatlan tartalomnak” nevezett felvételeke, hozzátéve, hogy azonnal frissítették a biztonsági és ellenőrzési protokolljaikat a platformjukkal való további visszaélések megakadályozása céljából.
Angela Zhang, a University of Hong Kong munkatársa szerint azonban ami Olgával történt, az „nagyon gyakori Kínában”. Az országban „hatalmas feketegazdaság működik, amely a hamisításra, a személyes adatokkal való visszaélésre és a hamisítványok előállítására szakosodott”, mondta.
Ez annak ellenére van így, hogy Kína az egyik első ország, amely megpróbálta szabályozni a mesterséges intelligenciát és azt, hogy mire lehet használni. Még a polgári törvénykönyvét is módosította, hogy megvédje a képmáshoz fűződő jogokat a digitális hamisítással szemben. A közbiztonsági hivatal által 2023-ban nyilvánosságra hozott statisztikák szerint a hatóságok 515 személyt tartóztattak le „MI arccsere” tevékenység miatt.
Hogyan került fel ennyi videó Olgáról az internetre?
Az egyik ok az lehet, hogy a Kína és Oroszország közötti barátság eszméjét népszerűsítették. Peking és Moszkva az elmúlt években jelentősen közeledett egymáshoz. Hszi Csin-ping kínai vezető és Putyin orosz elnök azt mondta, hogy a két ország közötti barátságnak „nincsenek határai”. Ők ketten a héten találkoznak Kínában.
A kínai állami média megismételte az orosz narratívákat, amelyekkel az ukrajnai inváziót igazolja, a közösségi média pedig cenzúrázza a háborúról szóló vitákat.
„Nem világos, hogy ezek a fiókok közös céllal koordináltak-e, de a kormány propagandájával összhangban lévő üzenet népszerűsítése mindenképpen előnyös számukra. Még, ha ezek a fiókok nem is kapcsolódnak kifejezetten a Kínai Kommunista Párthoz, egy összehangolt üzenet népszerűsítése kevésbé valószínűvé teheti, hogy a posztjaikat leveszik”,
mondta Emmie Hine, a Bolognai Egyetem és a KU Leuven jogi és technológiai kutatója.
„A kínai MI-szabályozás alapvető célja a társadalmi stabilitás fenntartása, valamint az innováció és a gazdasági fejlődés előmozdítása közötti egyensúly megteremtése. Miközben a hatályos szabályozás szigorúnak tűnik, a szelektív végrehajtásra utaló jelek vannak, különösen a generatív MI-engedélyezési szabály esetében, amelynek célja lehet, hogy innovációbarát környezetet teremtsen, azzal a hallgatólagos egyetértéssel, hogy a törvény alapot biztosít a szükség esetén történő keményebb fellépésre”,
mondta Hine.
Kayla Blomquist, az Oxford University technológiai és geopolitikai kutatója szerint:
„Fennáll a veszélye annak, hogy a mesterségesen generált, politikailag érzékeny tartalmakkal bekeretezett személyeket gyors, megfelelő eljárás nélkül hozott büntetéseknek vethetnek alá”.
Hozzáteszi, hogy Peking a mesterséges intelligenciával és az online adatvédelmi politikával kapcsolatban a fogyasztói jogok kiépítésére összpontosít a ragadozó magánszereplőkkel szemben, de hangsúlyozza, hogy „az állampolgári jogok a kormánnyal szemben továbbra is rendkívül gyengék”.
Nem az utolsó áldozat
Olga ügyének következményei azonban messze túlmutatnak Kínán – az eset jól mutatja, hogy milyen nehéz megpróbálni szabályozni egy olyan iparágat, amely a jelek szerint villámgyorsan fejlődik, és ahol a szabályozók folyamatosan a lemaradásukat próbálják behozni. De ez nem jelenti azt, hogy nem próbálkoznak.
Márciusban az Európai Parlament jóváhagyta a mesterséges intelligenciáról szóló törvényt, a világ első átfogó keretét a technológia kockázatainak korlátozására. Joe Biden amerikai elnök pedig tavaly októberben jelentette be, hogy végrehajtási utasításban kötelezi a mesterséges intelligencia fejlesztőit, hogy osszák meg az adatokat a kormánnyal.
Bár a nemzeti és nemzetközi szintű szabályozás lassan halad a mesterséges intelligencia gyors ütemű növekedéséhez képest, Blomquist szerint „világosabb megértésre és erősebb konszenzusra van szükség a legveszélyesebb fenyegetések és azok mérséklésének módja körül”.
Mindeközben úgy tűnik, hogy az emberek nem sokat tehetnek
„Az egyetlen dolog, amit tehetünk, hogy nem adunk nekik semmilyen anyagot, amivel dolgozhatnak: nem töltünk fel magunkról fotókat, videókat vagy hanganyagot a nyilvános közösségi médiába. A rossz szereplőknek azonban mindig lesz indítékuk arra, hogy másokat utánozzanak, ezért még ha a kormányok le is csapnak rá, arra számítok, hogy a szabályozási huzavona közepette folyamatos növekedést fogunk látni”,
mondja Hine.
Olga 100 százalékig biztos abban, hogy nem ő lesz a generatív mesterséges intelligencia utolsó áldozata. De eltökélt szándéka, hogy nem hagyja, hogy ez elűzze őt az internetről. A YouTube-csatornáján osztotta meg tapasztalatait, és azt mondja, hogy néhány kínai online felhasználó segít neki azzal, hogy a képmását használó videók alatt kommentben jelzi, hogy azok hamisítványok.
Hozzáteszi, hogy sok ilyen videót már le is vettek.
„Meg akartam osztani a történetemet – szeretnék meggyőződni róla, hogy az emberek megértik, amit az interneten látnak, nem mindig valódi. Szeretem megosztani az ötleteimet a világgal, és ezektől a csalók egyike sem tántoríthat el.”
(forrás)
