A deepfake (MI-alapú álló- és mozgókép-hamisítás) másik kritikus komponense, a hangklónozás is hihetetlen léptékben fejlődik, jó megvalósítás esetén már nem tudjuk megkülönböztetni az emberi hangot a gépitől. Ez komoly veszélyt jelent mindenkire, beleértve a stratégiai döntésekért felelős vezetőket, cégvezetőket is, mondta az ITBUSINESS-nek Keleti Arthur kibertitok-jövőkutató, az Informatikai Biztonság Napja alapítója, az Önkéntes Kibervédelmi Összefogás (KIBEV) elnöke és alapítója.
◼︎ A hangfelismerés elesett
Keleti Arthur több mint 20 éve foglalkozik kiberbiztonsággal, így testközelből látja azt a fejlődést, amely rapid módon ment végbe a hangklónozás terén. „A hangklónozás az emberi beszéd digitalizálásának egyfajta szintetizálása”, bocsátotta előre a szakértő. „Lényege, hogy feltöltenek egy beszédmintát, és annak a hangjaiból illesztenek össze valami új hangzó szöveget, amit beszédnek nem neveznék, de ahhoz hasonló.”
Ennek különböző szintjei, mélységei vannak, nyilván, ha csak egymás után rakunk hangokat, az nem lesz olyan, mint az emberi beszéd, erősen érezni lehet rajta azt, hogy ez gép „szülötte”. A beszéd egyedi jellemzőjét több alkotóelem (hangfekvés, intonáció, hangsúly, hangmagasság) szintézise adja meg. Ám jó, ha tudjuk, ma már léteznek olyan szoftverek, amelyek elegendően sok és sokféle hangmintából közel emberi beszéd minőségű, az előbbi alkotóelemekkel rendelkező hangklónokat kreálnak.
Szerencsére az ember az evolúció során megkapta azt a képességet, hogy a hanghordozásból, a beszéd vokális jegyeiből képes leszűrni, ha valami nem stimmel. Gondoljunk arra például, hogy bizony van, amikor megérezzük, ha valaki hazudik nekünk pusztán az illető hanglejtéséből, szóhasználatából. Vagy vegyük az újságíró hivatását: a zsurnaliszták némi rutint szerezve az előbb említett tényezők alapján pontosan tudják, hol kell vagy lehet közbevágni, kérdezni, hol ér a gondolatmenete végére a riportalany. A legtöbb „géphangnál”, amilyen például az egyik kommunikációs szolgáltató telefonos asszisztense, már hallás alapján is nyilvánvaló, hogy a vonal túlsó végén nem hús-vér ember található, hanem egy hangklón – illetve robot. Nagyon gyorsan fejlődik azonban ez a szegmens, ma már nem mindig lehet könnyedén felismerni a hangklónozást.
Segít (?) az MI
A szakember hozzátette: mint az informatika minden szegmensében, itt is jelentős változást hozott a generatív mesterséges intelligencia, a ChatGPT-hez hasonló nagy nyelvi modellek már képesek „eldönteni” a kapott szöveg alapján a kontextust, és ehhez igazítják a klónozott beszéd hanglejtését, hanghordozását. Ennek a folyamatnak a tempója ma közel valós idejű, azaz valóban olyan, mint ha valakivel face to face beszélgetnénk.
Még ijesztőbb, hogy az ilyen minőségű hangklónozáshoz nem kell valamiféle hiper-szuper eszköztár, elegendő hozzá néhány ingyenes és nyílt forráskódú szoftver, valamint némi idő. A végeredmény pedig szinte bármire, akár a legsötétebb célokra is felhasználható. Volt már példa rá, hogy ilyen telefonhívással jelentős összeget utaltattak egy külső számlára, amikor a vezérigazgató hangján felhívták egy cég pénzügyesét. Olyan is megesett, hogy valakinek a gyereke szólt bele a telefonba, majd közölte, hogy elrabolták, ennyi és ennyi pénz utaljanak erre és erre a számlára, és ha ez megtörténik, nem esik bántódása a gyermeknek. De akár nagyvállalatok vezérigazgatóinak a nevében végzett információszerzésre is alkalmazható a hang.
Erősíti ezt a fajta módszert az a folyamat, hogy az elfoglalt emberek hamarosan már saját virtuális asszisztenssel rendelkezhetnek, „aki” a főnök nevében időpontot foglal, egyeztet, tárgyal – természetesen az ő hangján. Ha ez létjogosultságot nyer szélesebb körben (és miért ne nyerne!), már mindenkinek minden oka meglesz kételkedni abban, hogy a vonal másik végén helyet foglalót csak és kizárólag a jószándék vezeti-e.
Az MI mindenkire egyformán süt
Az ORFK kommunikációs szolgálatától megtudtuk: hazai viszonylatban ismertté vált bűncselekmények esetében is felmerült már olyan adat, amely alapján valószínűsíthető, hogy az elkövetők részben vagy egészben a „hangklónozás” technikáját alkalmazták. Mint azt kérdéseinkre lapunkhoz eljuttatott válaszukban írták: az online térben elkövetett csalások, visszaélések elkövetési módjai közül kiemelhető még a „social engineering” módszere, amelyet általában az üzleti szereplők körében alkalmaznak bűnelkövetők, megtévesztve olyan, nem vezetői szintű személyeket, akik jogosultsággal rendelkeznek üzleti tranzakciók lebonyolításához. A technikát alkalmazva az elkövetők manipulált audió- vagy audiovizuális tartalmak segítségével képesek az áldozatokban bizalmat kelteni, és kihasználva a jóhiszeműségüket, anyagi kárral járó ügyleteket elvégeztetni velük.
| Gigahertzek és a hang
Mintegy 24 éve (amióta 1 GHz-es vagy nagyobb a CPU-k órajele) az a helyzet, hogy a 44 kHz-es mintavételű (CD-minőségű) hang két mintavétele között 20 000 vagy több gépi kódú utasítást tud végrehajtani a processzor. Húszezer gépi kódú forrássornyit. Ennél kevesebb utasítás elegendő a másodfokú egyenlet megoldásához, tehát semmi csoda nincs abban, hogy a digitális hangképzés a programozásban „lejárt lemez”: nem érdekes, minden elképzelhető feladatot megoldottak már. Legyen példa az „Autotune”, amikor a hamisan éneklő előadó hangja valós időben a helyes hangnemben megy ki a hangszórókból – ez több mint 10 éve alapfunkció a színpadi erősítéstechnikában. Ez a deepfake egyik elődje. – A szerk. |
Hasonló módszerként azonosítható közismert személyek, politikusok vagy hírességek hangjának másolása, utánzása, ami főként az állampolgárokat veszi célba, lejáratás, megtévesztés, álhírek terjesztésének szándékával. Ezen felül hozzátartozók vagy ismerősök hangjának utánzását alkalmazva a „hangklónozás” módszere ugyancsak alkalmas lehet megfélemlítésre, tévedésbe ejtésre, zsarolásra, vagy arra, hogy az elkövetők rávegyék a sértetteket pénzügyi tranzakciók megindítására.
A leggyengébb és a legerősebb láncszem is az ember
Ahogy a banki csalások esetében, úgy a „hangklónozásos” módszer használata kapcsán is elengedhetetlen a felhasználók tudatosságának növelése, az ismeretterjesztés a bűncselekmények megelőzése tekintetében. Mivel az elkövetői kör általában nyílt forrásból tudja beszerezni a csalások során módosított és felhasznált „alapanyagot”, így kiemelten fontos az állampolgárok által megosztott kép- és videófelvételek számának minimalizálása, a felvételek hozzáférési körének tudatos korlátozása. A megtévesztést el lehet kerülni, ha a hívás közben (vagy a felvételen) hallható személlyel – akár a hívással párhuzamosan – kapcsolatot tud létesíteni a hívott fél, meggyőződve a kapcsolat hitelességéről – hívták fel a figyelmet.
