Lassan már tényleg közismert lesz, hogy a deepfake olyan, mesterséges intelligencia (MI) által generált videókat és képeket, valamint sokszor hangot is jelent, amelyek megváltoztathatják vagy létrehozhatják az emberek, események és tárgyak valóságról alkotott képét. Az MI képes olyan képeket, videókat és hanganyagokat létrehozni vagy manipulálni, amelyek valósághűnek tűnnek és hangzanak. A dolog ma már cseppet sem hipotetikus, a híres színészekről vagy éppen politikusokról és influencerekről egyre több hamis képi és videóanyag kering az interneten, nem kivétel ez alól Joe Biden, az USA elnöke, Tom Cruise, Keanu Reeves színészek, vagy az olyan halott sztárok, mint Freddie Mercury.
◼︎ Lemásolt emberek
Az első igazán komoly deepfake-botrány talán az Extinction Rebellion Belgium informatikai eszközökkel hamisított videója körül robbant ki 2020-ban, amelyben Sophie Wilmès belga miniszterelnök beszélt a koronavírus-járvány és a klímaváltozás kapcsolatáról. A videóhoz felhasznált MI képes volt manipulálni az emberi arckifejezést, mimikát és hangot is. A hamis videót sokan vették komolyan, felháborodást és dicsérethullámot egyaránt generált, rávilágítva ezzel arra, hogy az „igazság utáni kor” szabályozatlan, átmeneti is egyben, amelyben a médiatartalmak hitelessége, a média kapuőr szerepével együtt vált semmivé, és semmi sem biztos, még akkor sem, ha a saját két szemünkkel látjuk.
Ne higgyünk a szemünknek
A mély hamisítványok észlelése és ellenőrzése, pláne felcímkézése rendkívül nehéz, különösen, mivel azokat többnyire a közösségimédia-platformokon osztják meg, amelyek eleve korlátozott moderálási és tényellenőrzési képességűek. A deepfake-technológia napról napra egyre kifinomultabb és egyre szélesebb tömegek számára elérhető, használatához nem szükséges magas szintű programozási vagy videószerkesztési szakértelem. Elméletben ártalmatlan céllal is jól használható, például szórakoztatásra, oktatásra, kutatásra vagy művészetre, ugyanakkor komoly kockázatokat jelenthet az egyénre és a társadalomra nézve is, például hamis információt terjeszthet, befolyásolhatja a közvéleményt, megsértheti a magánélethez fűződő jogainkat, csorbíthatja a jó hírnevet, használatával bárki identitása ellopható, lemásolható.
Keleti Arthur kibertitok jövőkutató, az Informatikai Biztonság Napja (ITBN) rendezvény alapítója szerint is a hitelesség a legnagyobb probléma. „A mesterséges intelligencia sok mindent művel majd a következő években, és innentől kezdve már mindig, amíg csak létezünk, mivel én nagyon komoly ember-gép, koegzisztenciára számítok. Ez lesz a jövő, ez nem egy hype, ami azért fontos, mert sokan azt hiszik, hogy majd elmúlik. Nem fog. Tehát a velünk maradó mesterséges intelligencia, mindenkinek és mindennek a hitelességét kihívások elé állítja majd, és egyben befolyásolja azt is, hogy mit vélünk igaznak”, mondta a szakember.
Hogyan lehet védekezni?
„Amikor azt vizsgáljuk, hogy a mesterséges intelligencia milyen módon tud beavatkozni a hitelességbe, vagy az igaznak hitt dolgokba, akkor ezeket a módszereket érdemes elkülönítve is megvizsgálni, ráadásul nemcsak az aktuális helyzetet szükséges értékelnünk, de a következő hónapokban, években várható helyzetekre is érdemes felkészülnünk”, vélekedett Keleti Arthur. „Így a kiberbiztonsági »landscape-en« kirajzolódik a szemünk előtt az, amit a szakemberek »attack surface«-nek, vagyis támadási felületnek neveznek. Lényeges tehát, hogy milyen támadási felületet nyújtunk, mint szolgáltató, mint vállalat, mint szervezet a támadók felé, hiszen a mesterséges intelligencia ezen tud, vagy nem tud majd akár több ponton is lyukat ütni. A mesterséges intelligenciához kötődő definíciók egyébként nem is annyira fontosak, nem a definíciókkal fogunk csatákat nyerni, hanem a gyakorlattal”, summázta a helyzetet.
Veszedelmes technológia vált könnyen hozzáférhetővé
Keleti Arthur arra is felhívta a figyelmet, hogy jól látszik: a mesterséges intelligencia a generatív nyelvi modellekkel gyakorlatilag már ma is tökéletes szöveg készítésre alkalmas, és ezt ráadásul áldozatonként vagy cégenként testre szabva is képes elvégezni, automatikusan és folyamatosan változtatva a felhasznált szövegkorpuszon. Ez már egyfajta „szöveges deepfake”, bár ez még „csak” szöveg, ugyanakkor egy ember, egy vezető, egy cég hitelességének számos eleme van, és ennek nagyon nagy része az írásbeliség. A legtöbb emberrel, sőt cégekkel ma ugyanis emailekben és üzenetváltásokban, chatprogramokban érintkezünk. Érdemes megnézni, hogy az eszközeinken, a vállalatunknál hányfajta üzenetváltó vagy chat-alkalmazás van telepítve.
„Amikor egy áldozatot megcéloz egy bűnöző, akkor ezek közül bármelyiket választhatja, és olyat fog választani, amely számára kényelmes, jól tudja automatizálni, amely kevésbé követhető és hitelesebbnek tűnik”, figyelmeztetett a kibertitok-kutató, aki szerint „a hiszékeny emberek könnyen járhatnak úgy, hogy kapnak egy üzenetet, és ha nem nézik meg alaposan, hogy ez honnan jött, melyik csatornán, milyen tartalommal vagy szándékkal, akkor bajba kerülhetnek. Időnként még én se nézem meg. Ezért fontos azt megérteni, hogy ha a rosszindulatú szereplők egy embernek vagy egy cégnek, a hitelességét szeretnék lemásolni vagy kihasználni, akkor azt akár egy mesterséges intelligencia által készített szöveges üzenettel is képesek megtenni. Akár chatelhet is egy szolgáltató, vagy egy kiszemelt vezető nevében a mesterséges intelligencia bármennyi emberrel, fáradhatatlanul, 7×24 órában.”
A szellem meg a palack
Az Eleven Labs-nél már megjelent a tökéletes magyar hangklónozás előfizethető szolgáltatása, elérhetősége viszont változó. Vagyis attól, hogy egy jövőbeni magyar áldozat hangját tökéletesen leklónozzák magyarul, már talán csak hetekre vagyunk. Tehát nem hónapokra meg évekre, hanem napokra, ha úgy tetszik. Ez már most biztosra vehető, tett felkiáltójelet a mondat végére Keleti Arthur.
Az még kérdéses lehet, hogy mennyire gyors az ilyesmihez felhasználható API (automatizált program-interfész), amelyen keresztül, jelen esetben a támadók által vezérelhető az MI-chatbot, mennyire gyors az a motor, amely mögötte van, és mennyibe kerül a használata. „Vajon fel lehet-e úgy használni, hogy azt ha kiszúrja valaki, akkor nem érhető tetten az elkövető? Esetleg lebuktatja-e a technológia a támadót, ha hangklónozó alkalmazással az API-n keresztül beszélget ál-ügyvezetőként a pénzügyessel, átutalást kezdeményezve a támadó számlájára?”, ezek a vitás kérdések a kiberbiztonsági szakember szerint.
Vannak szakértők, aki szerint ez a módszer még túl lassú, túl gépies, és talán valóban lesz még egy kis idő, amíg ezt is megoldják a fejlesztő cégek, de akkor nem hetekre, hanem hónapokra vagyunk, ez valójában már csak kapacitás kérdése. „Egy kriptobányász-szerverfarm már elhozhatja ezt a képességet is”, érzékeltette Keleti Arthur, aki néhány szakmai titkot is elárult. „Hang alapú átverések, csalások tekintetében a probléma hatalmas, és bár nincs reprezentatív kutatásom, viszont beszélgettem emberekkel, áldozatokkal. Olyanokkal is, akik ilyen bűnelkövetőket kergetnek. Hallottam konkrét hangmintákat is, hogy miképp zajlik egy ilyen csalás, átverés hangban. Az a tapasztalatom, hogy most még megesik, hogy a bűnöző, aki a túloldalon beszél, nyelvtani hibákat vét, nem adekvát szavakat használ. Ha valami nem úgy alakul, ahogy szeretné, akkor kicsúszik egy-egy csúnya szó, amitől a tudatosabb ügyfélnek gyanússá válhat egy ilyen beszélgetés. Egyre kevésbé gyanús azonban, ha erős tájszólással vagy akcentussal beszél valaki magyarul, hiszen egyre több cég használ határon túli magyarokat a call centerükben és sok egyéb helyen. Szóval, a professzionális beszédszintetizálás lehetőségeivel felvértezett bűnözők sajnos építhetnek arra, hogy ez ma önmagában nem emeli magasba a piros zászlót.”
Az apokalipszis utolsó lovasa, a deepfake videó
Ma a manipulációs technikák már elértek arra a szintre, hogy a kimondott szavakat, a szájmozgást, a tekintetet valós időben lehet korrigálni. Az Nvidia üzleti alkalmazása ráemeli a megszólaló tekintetét a hallgatóra, tehát akkor is a kamerába néz az illető, ha a valóságban nem nézett oda. „Az igazán izgalmas kérdés az”, vetette fel a kiberbiztonsági szakértő, „hogy vajon honnantól számít valakinek a látványa autentikusnak? Mert ha már a tekintetünk sem a miénk, hanem MI generálja, hogy ránézünk valakire, a hangunkban pedig folyamatosan javítgatják a dolgokat, akkor tulajdonképpen már egy telekonferencia is deepfake. Az igazi kérdés tehát az, hogy hány százalék digitális módosítás után mondhatjuk egy tartalomra, hogy még »eredeti«”.
Keleti Arthur további nehézségeket is vázolt: „sem a képre, sem a szövegre nincsenek jó hitelesítő biztonsági protokolljaink. Nem tudom azt mondani egy felhasználónak, hogy ha villog a zöld pötty a sarokban, akkor veled beszélek, ha nem villog, akkor nem. Nincsen ilyen. Egy csatorna hitelességéről nem tudunk meggyőződni, kivéve amikor valamelyik hivatalos csatornán zajlik a folyamat, mondjuk egy bank hivatalos alkalmazásában. De sok szolgáltatónak nincsenek ilyen alkalmazásai, és egy felhasználótól nem várhatjuk el, hogy 52 szervezet összes alkalmazását telepítse, frissen tartsa, és ismerje, hogy az adott alkalmazás hogyan néz ki, és mi abban a hiteles kommunikáció Vannak elképzelések, például a C2PA (Koalíció a Tartalom Eredetiségéért és Önazonosságáért) javaslata, amely az elkészült képek, videók, tartalmak eredetiségét és a rajtuk végrehajtott változtatások bizonyíthatóságát szabványosítja.”
Védekezésre is alkalmas az MI
Bagó Péter a Budapesti Corvinus Egyetem adjunktusa, alapvetően a mesterséges intelligencia pénzügyi oldalával foglalkozó szakértő. Ő is a kiberbiztonságot tartja az egyik legfontosabb kihívásnak az információs technológia korában, különösen a pénzügyi szektort illetően, ahol a biztonság az ügyfelek és az intézmények számára egyaránt rendkívül fontos.
Ebben a szektorban az MI-robbanás által leginkább érintett területek az adatvédelem, a csalások elleni küzdelem, illetve a kibertámadások elleni védekezés, ahol az automatizált rendszerek jelentős segítséget nyújthatnak. Az MI a gépi tanulással felvértezve segíthet az esetleges kibertámadások által érintett rendszerek gyors és hatékony helyreállításában, a károk rapid felmérésétől az MI-erősítette reakciókig bezárólag.
A pénzügyi szektor és a deepfake
„A pénzügyi oldal az ugye leginkább a fintech. Ha visszakanyarodunk egyébként a klasszikus mesterséges intelligenciához, az már nagyon régóta velünk van, most kicsit úgy érzem ez inkább egyfajta hype, amit kicsit túltolnak. Mondok egy olyan példát, ami a pénzügyi világból jött: én most történetesen éppen Namíbiában vagyok, és örülnék neki, ha a bankom ezért levenné a készpénzfelvételi limitemet. Tételezzük fel, hogy egymillió forintra van beállítva, és jó lenne, ha ezt levennék mondjuk 50 ezer forintra, hiszen megadjuk a lokáció alapján, hogy hol vagyunk. Ez esetleg egy kockázatos ország, ország tehát érdemes ezt megtenni. És amikor visszatérek Magyarországra, akkor pedig állítsunk vissza mindent az eredeti szintre. Ez még csak nem is mesterséges intelligencia, ez egyszerű automatizáció lenne, de nem képesek erre a bankok”, mondta a szakértő.
Bagó Péter szerint a mesterségesintelligencia-alkalmazásokat az emberek nagy része sajnos hajlamos eléggé túlgondolni. Úgy gondolják, hogy a gépek azonnal gondolkoznak, és helyettesítenek minket, pedig még messze nem tartunk itt. Inkább emberi szocializáció kérdése, hogyan is állunk a mesterséges intelligenciához, az emberi tényező, hogy milyen kultúrában eszméltünk, milyen környezetben nőttünk föl, nagyon fontos”, mondta az adjunktus, majd így folytatta: „Gondoljunk arra, hogy az emberek sajnos még annak az sms-nek is hajlamosak hinni, ha már deepfake-ről beszélünk, amely azt kéri, hogy holnapig módosítsa a csomagját, változtassa meg a szállítás időpontját és egyéb dolgokat. Miközben semmilyen csomagot nem adtak fel és nem is várnak.”
Kultúrát kell váltani
Ezt a kultúrát Bagó szerint meg kell megváltoztatni, amit látunk, azt nem feltétlenül szabad elhinnünk. „Szokták mondani, hogy az a pénz a tiéd, amit a kezedben tartasz. De olyat is hallottam már, hogy ami a bankkártyán van, hát az nem is igazából pénz, az lenne a jó, ha a párnában lenne. Ez ugyanez a hozzáállás”, érzékeltette Bagó Péter. „Én pozitívan állok ezekhez a technológiákhoz, de okosan kell használni azokat, a mesterséges intelligenciát én alapvetően védekezésre használnám. Hiszen a mesterséges intelligencia talán segíthet megállapítani, hogy valami deepfake-e, képes dönteni egy SMS-ről vagy egy emailről”.
A fintech-guru vesszőparipája az átlag felhasználó védekezési kultúrájának, a pénzügyekhez, a mesterséges intelligenciához való hozzáállásának fejlesztése. Ezt sokan meg is próbálták, különféle bankok kampányoltak, reklámok futottak a tévében, és a végén mi derül ki? Hogy az egyik leggyakrabban használt jelszó még mindig az „12345678”. Ebben Bagó Péter szerint a szolgáltatóknak is van némi felelőssége, meg kellene követelni az erős jelszót, vagy a kétfaktoros autentikációt.
A Corvinus szakértője végül elmesélt egy anekdotát. „Az, hogy ebből a helyzetből mikor lesz nagyobb horderejű ügy, jó kérdés. Szerintem már van. Én mindig megkérdezem a hallgatókat, hogy az informatikai biztonság keretében ki az, aki oda meri adni a telefonját, feloldott állapotban? A hallgatók persze odaadják. Ekkor megkérdezem őket, hogy akkor most belenéznék a Google-előzményekbe, a wifi-jelszavakba, esetleg egy pénztárcába a telefonon, és ilyenkor elkezdik érezni, hogy mire megy ki a játék. A legfontosabb adatok nem a galériában vannak egy telefonon, senkit nem érdekelnek a cicák, kutyák, feleségek vagy randipartnerek. Az igazi célpont a banki alkalmazás, amely ott van a telefonon, és ha fel van oldva a telefon, akkor lehet, hogy már a kétfaktoros autentikáció sem elég.”
