Az élethű hamisítás, a deepfake a mesterséges intelligencia (MI) fejlődésének egyik nem kívánt mellékterméke lett. A képek után már itt vannak a hangok és a videók is, egyre inkább megingatva a bizalmat a digitális médiaállományok hitelességében.
◼︎ Magyar fejlesztés a deepfake ellen
A mesterséges intelligencia rosszindulatú használata által jelentett egyik legnagyobb biztonsági kockázat az élethű hamisítás, a deepfake megjelenése és terjedése. Hamisítani lehet képet, hangot és videót is. A dolog addig viszonylag ártalmatlan, amíg a pápáról csinálnak pufidzsekis képet, de más a helyzet, ha közszereplőkről készülnek hamis videók vagy cégvezetők hangját klónozva csalnak ki milliókat a vállalkozásoktól.
Egyszerre több csatornán
A deepfake elleni küzdelem az információbiztonság egyik kiemelt területe lesz a közeljövőben, állítja határozottan Juhász Csaba, a TC&C ügyvezető igazgatója. A vállalat az ügyfélszolgálatok, contact centerek számára fejleszt megoldásokat; legújabb termékük, a CARIN QAi, a mesterséges intelligenciát hívja segítségül a beszélgetések leiratozására, fordítására, tartalmi kivonatok készítésére és ezekkel párhuzamosan az ügyfélelégedettség mérésére.
Eddigi munkájuk során a TC&C munkatársai komoly tapasztalatokat szereztek a hangok és videók elemzésében az MI segítségével. Ez adta nekik az ötletet, hogy a BME munkatársaival közösen kutatni kezdjék a mélyhamisítási technikákat, kimondottan azzal a céllal, hogy védőeszközöket fejlesszenek ki ellenük. „Ezeknek két fő csapásiránya van: az egyik a hamisított tartalom felismerésére irányul, a másik ezeknek a kivédésére, a megfelelő intézkedések meghozatalára. A munkához az NKFI-től támogatást is elnyertünk”, mondja Juhász Csaba.
A kutatás multimédiás jellegű, a hangokon kívül kiterjed a videóra, sőt, szöveges társalgásokra (chatekre) is, ugyanis mindegyiknél jelen van a mélyhamisítás lehetősége.
Sokféle jelből olvasnak
Az együttműködés eredménye a CARIN Deepfake Guard nevű alkalmazás lesz. A fejlesztés nemrég kezdődött, de az algoritmus már most nagyjából 95 százalékos pontossággal ismeri fel a hamisított hangokat, szemben a gyakorlatlan ember 60-70 százalékos pontosságával.
| Dollármilliók veszélyben
A deepfake-kel való visszaélés óriási ütemben növekvő kockázatot jelent. Friss felmérések szerint az amerikai vállalkozások 35 százaléka észlelt már ilyen csalási kísérletet, és ezzel a második leggyakoribb incidenstípussá lépett elő. Különösen gyakori célpontok a bankok: minden negyedik pénzintézet több mint 100 ilyen támadást észlelt az elmúlt évben. A leggyakoribb módszer a megszemélyesítés, amikor valaki másnak a hangját klónozzák le, és így csapnak be gyanútlan áldozatokat – például a vezérigazgató nevében felhívnak egy ügyintézőt, hogy utaljon át egy nagyobb összeget az általuk megadott számlára. A potenciális felhasználási lehetőségek köre azonban gyakorlatilag végtelen, az „unokázós” csalásoktól a hamisított online pszichológusig vagy vizsgázóig terjedhet, de alkalmas lehet ügyfélszolgálatok túlterheléses támadására is. |
A legelső és legfontosabb feladat, hogy a megoldás felismerje a szintetizált (vagyis hamisított) médiát. A kutatók itt támaszkodhatnak az érzelmek felismerésében szerzett tapasztalataikra: az alkalmazott MI algoritmus a hang és/vagy videó elemzésével megtalálhatja azokat az apró áruló jeleket, amelyekből kideríthető a hamisítás. Az adatfolyamon túl sok mindent ki lehet szűrni az interakció kontextusából is, például gyanúsak lehetnek az oda nem illő kérdések, a túlzott érdeklődés valamilyen bizalmas vagy káros célokra felhasználható információ iránt.
A felismerésen túl a következő lépés a beavatkozás, folytatja Juhász Csaba. A legegyszerűbb, ha a rendszer egy háromfokozatú skálán azonnal jelez az ügyfélszolgálati munkatársnak, ha gyanús jeleket észlel. Ilyenkor jó lehetőség, ha valamilyen cselekvésre szólítják fel a túloldali felet: olyasmit kérnek tőle, amit MI segítségével még nehéz megvalósítani. Ilyen lehet, hogy szótagolva kell kimondani szavakat, nagy számokat felolvasni vagy a fejet kell bizonyos módon mozgatni. „Abban biztosak vagyunk, hogy itt folyamatos fejlesztésekre lesz szükség, mert a deepfake-technikák is állandóan finomodnak az MI fejlődésével”, teszi még hozzá Juhász Csaba.
