A mesterséges intelligencia által generált arcokat az emberek megbízhatóbbnak ítélik meg, mint a valódi személyekről készült fényképeket – állapították meg kutatók, akik szerint ez komoly kockázatot jelenthet az online csalások, a dezinformáció és más visszaélések szempontjából.
A tanulmány az első, amely a legújabb diffúziós (diffusion) technológiával előállított AI-arcok megbízhatóságát vizsgálta. A kutatást Alexis McGuire vezette, munkatársai a Lancaster University, a Stanford University, valamint a University of California, Berkeley kutatói voltak.
Az emberek könnyen bedőlnek a mesterségesen generált arcoknak
A kutatás egyértelműen rámutat arra, hogy az emberek könnyen megtéveszthetők az AI által előállított képekkel. „Kutatásunk azt mutatja, hogy az emberek könnyen bedőlhetnek a mesterséges intelligencia által generált képeknek. Ezek az AI-modellek demokratizálták a digitális tartalomkészítést: ma már technikai ismeretek nélkül bárki létrehozhat hamis emberi arcokat, amelyeket számos káros célra lehet felhasználni. Fontos, hogy a nyilvánosság tisztában legyen azzal, milyen egyszerű ilyen képeket készíteni, hogyan lehet velük visszaélni, és miként válhatnak az emberek áldozattá például dezinformáció, személyazonosság-lopás vagy úgynevezett catfishing során.”
A kutatók emlékeztetnek arra, hogy az emberek rendkívül gyorsan dolgozzák fel az arcokat: akár 100 ezredmásodperc alatt automatikusan képesek első benyomást alkotni. Az AI által létrehozott arcok azonban mára annyira élethűvé váltak, hogy az emberek az esetek mintegy egyharmadában valódinak hiszik őket.
Alig tudjuk megkülönböztetni a valódi és a mesterséges arcokat
A vizsgálatban 169 résztvevőnek 96, különböző nemű, életkorú és etnikai hátterű személy arcát mutatták be véletlenszerű sorrendben. A résztvevőknek azt kellett eldönteniük, hogy az adott arc valódi fénykép-e, vagy mesterséges intelligencia állította elő.
Az átlagos találati arány mindössze 58,4 százalék volt, vagyis a résztvevők csak alig teljesítettek jobban a véletlen találgatásnál (amelynek valószínűsége 50 százalék lenne). Érdekes módon a legújabb diffúziós modellel (Diffusion Model – DM) előállított arcokat kevésbé tartották valósághűnek, mint a korábbi generatív ellenséges hálózatokkal (Generative Adversarial Network – GAN) készült képeket.
A legújabb AI-arcok tűntek a legmegbízhatóbbnak
Egy második kísérletben új résztvevők ugyanennek a 96 arcnak a megbízhatóságát értékelték egytől hétig terjedő skálán, ahol az egy jelentette a „nagyon megbízhatatlan”, a hét pedig a „nagyon megbízható” minősítést.
A valódi emberek arcképei kapták a legalacsonyabb átlagos értékelést: 4,03 pontot. Mindkét mesterséges intelligencia által generált arctípus magasabb megbízhatósági értékelést kapott a valódi arcoknál, de a diffúziós modellel készült képek bizonyultak a legmegbízhatóbbnak.
- A GAN-modellel létrehozott arcok átlagosan 4,36 pontot kaptak.
- A diffúziós modellel (DM) előállított arcok átlagos értékelése 4,70 pont volt.
A kutatókat különösen meglepte, hogy miközben a diffúziós modellel készített arcokat kevésbé élethűnek látták a résztvevők, mégis ezek váltották ki a legerősebb bizalmat. Alexis McGuire szerint ez látszólagos ellentmondás. „Ez az eredmény egyfajta paradoxont tár fel, és arra utal, hogy a valósághűség és a megbízhatóság megítélését két eltérő pszichológiai mechanizmus irányíthatja.”
Komoly veszélyt jelenthetnek a társadalomra
A kutató arra is figyelmeztetett, hogy a legújabb diffúziós technológiával előállított AI-arcok hosszabb távon alááshatják a társadalmi bizalmat.
„Ahogy az AI által generált képek egyre kifinomultabbá és könnyebben hozzáférhetővé válnak, társadalomként egyre gyakrabban találkozunk mesterségesen létrehozott emberi arcokkal – sok esetben rosszindulatú vagy kizsákmányoló célokra felhasználva őket, például politikai dezinformációban, pénzügyi és személyazonossági csalásokban, illetve catfishing során. Rendkívül fontos megérteni, milyen veszélyeket hordoz a generatív mesterséges intelligencia széles körű elérhetősége, és olyan stratégiákat kidolgozni, amelyek mérsékelhetik az egyénekre, szervezetekre és a demokratikus társadalmakra leselkedő kockázatokat.”
A Journal of Vision folyóiratban megjelent, „AI-Generated Faces are Becoming More Trustworthy” című kutatást a Centre for Research and Evidence on Security Threats (CREST) és a Security Lancaster finanszírozta.
Bárki részt vehet a kapcsolódó online kutatásban
A kutatók egy anonim online felméréshez is várják az érdeklődőket, amelynek címe „Examining Individual Differences in the Detection of Real and AI-generated Faces”.
A résztvevők egyszerre több emberi arcot látnak a képernyőn, és minden esetben meg kell ítélniük, hogy valódi vagy mesterséges intelligencia által létrehozott képről van-e szó. Emellett néhány további kérdésre – például saját döntésükbe vetett magabiztosságukra vonatkozóan – is válaszolniuk kell. A kitöltés végén a rendszer összesített eredményt is megjelenít.
