A moszkvai székhelyű Pravda – ami oroszul „igazságot” jelent – új stratégiát követ: nem közvetlenül az embereket célozza meg, hanem a mesterségesintelligencia-modellek adatforrásait torzítja el, hogy azok félrevezető információkat közvetítsenek. Egy nemrégiben készült audit szerint a tíz legnagyobb generatív MI-eszköz 33 százalékban ismételte meg a Pravda-hálózat hamis állításait, ezzel elősegítve a Kreml propagandájának terjedését.
A NewsGuard vizsgálata megállapította, hogy a hálózat a keresési találatok és a webes adatgyűjtők (web crawlers) elárasztásával manipulálja az MI-modellek által feldolgozott és bemutatott híreket. Ez azt eredményezi, hogy az orosz propagandával átitatott információk – 2024-ben összesen 3,6 millió cikk – bekerülnek a nyugati MI-rendszerekbe, és azok válaszaiba beépülve terjednek tovább.
A dezinformáció terjedése
Az audit során a NewsGuard tíz népszerű MI-chatbotot vizsgált meg, köztük az OpenAI ChatGPT-4o, You.com Smart Assistant, xAI Grok, Microsoft Copilot, Google Gemini és Meta AI rendszereit. A kutatás során 15 olyan hamis narratívát teszteltek, amelyeket a Pravda-hálózat 150 weboldala terjesztett 2022 áprilisa és 2025 februárja között. Az eredmények azt mutatták, hogy az MI-modellek közel harmadában visszhangozták a hálózat dezinformációs állításait.
A jelenséget az amerikai nonprofit szervezet, az American Sunlight Project (ASP) „LLM grooming” (nagy nyelvi modellek befolyásolása) néven definiálta. A jelentésük szerint a Pravda-hálózat célzottan az MI-modellek torzítására jött létre, nem pedig emberi olvasók elérésére.
„Minél nagyobb egy oroszpárti narratívakészlet, annál nagyobb eséllyel épül be az MI-modellek válaszaiba”, áll az ASP jelentésében.
A Pravda-hálózat terjeszkedése és hatása
A Pravda-hálózat nem saját tartalmat készít, hanem egy dezinformációs szűrőként működik, amely az orosz állami média, Kreml-barát influenszerek és kormányzati szervek tartalmait aggregálja. A hálózat legalább 207 bizonyítottan hamis állítást terjesztett, köztük olyanokat, amelyek szerint az Egyesült Államok titkos biológiai fegyverlaboratóriumokat működtet Ukrajnában, vagy hogy Volodimir Zelenszkij ukrán elnök visszaélt az amerikai katonai segélyekkel.
A hálózat 2022 áprilisában indult, nem sokkal Oroszország teljes körű ukrajnai inváziója után. 2024 februárjában a Viginum, a francia kormány külföldi dezinformációs kampányokat monitorozó ügynöksége azonosította először a rendszert. Azóta a Pravda-hálózat jelentősen bővült, és már 49 országot céloz meg több tucat nyelven. A hálózat mögött a TigerWeb nevű krími informatikai vállalat áll, amely oroszbarát kormányzati weboldalakat is fejlesztett.
A NewsGuard auditja kimutatta, hogy az MI-chatbotok a dezinformációs narratívák 33,55 százalékát ismételték meg, míg 18,22 százalékban nem adtak választ, és csupán 48,22 százalékban cáfolták meg azokat. Ráadásul hét chatbot közvetlenül a Pravda-hálózat cikkeire hivatkozott, miközben nem különböztették meg azokat a megbízható forrásoktól.
A hamis állítások között szerepelt az is, hogy Zelenszkij betiltotta Donald Trump Truth Social nevű közösségi oldalát Ukrajnában (ami sosem volt elérhető az országban), vagy hogy ukrán katonák egy Donald Trumpot ábrázoló bábut égettek el. Ezeket az állításokat az MI- chatbotok gyakran tényszerű információként közölték.
A jövő kihívásai: az MI modellek védelme a manipuláció ellen
A Pravda-hálózat tevékenysége rávilágít egy új dezinformációs taktikára, amely a nagy nyelvi modellek torzítására összpontosít, nem pedig a hagyományos közösségi média platformok manipulálására. Az orosz propaganda stratégiája egyre inkább az MI-rendszerek információs ökoszisztémájának befolyásolására irányul, ami komoly kihívást jelent a techcégek számára.
Az orosz stratégia mögött az a felismerés áll, hogy a nyugati MI-modellek jelentős része nyilvános internetes forrásokra támaszkodik, így ha egy hálózat elegendő mennyiségű hamis tartalmat állít elő és optimalizál a keresőmotorok számára, akkor ezek az információk beépülnek az MI-rendszerek válaszaiba. Ezáltal a dezinformáció közvetlenül az MI-rendszereken keresztül érheti el a felhasználókat, anélkül hogy hagyományos közösségi média kampányokra lenne szükség.
Ez az új típusú információs hadviselés arra kényszerítheti az MI fejlesztőit, hogy új módszereket dolgozzanak ki a modellek manipuláció elleni védelmére. Az egyik lehetséges megoldás az lehet, hogy az MI-rendszereket megbízhatóbb forrásokra kalibrálják, valamint fejlettebb szűrőmechanizmusokat építenek be a dezinformáció kiszűrésére. Azonban a Pravda-hálózat állandóan változó domainnevei és tartalmai miatt a fenyegetés folyamatosan alkalmazkodik, ami hosszú távon komoly kihívást jelent a techcégek számára.
