A demokrata Shamaine Daniels indul a kongresszusban, és a Trump-párti republikánus képviselő, Scott Perry által elfoglalt helyre pályázik, aki kulcsszerepet játszott a 2020-as választási eredmények megkérdőjelezésében. Daniels, aki tavaly kevesebb mint 10 ponttal kapott ki Perrytől, azt reméli, hogy egy új fegyver segíti majd esélytelen jelöltségét: Ashley, egy mesterséges intelligenciával rendelkező kampányönkéntes.
Ashley nem egy tipikus robothívó, egyik válasza sem konzervált vagy előre felvett. A főként demokrata kampányokkal és jelöltekkel dolgozni kívánó készítők szerint ő az első politikai telefonos bankár, akit az OpenAI ChatGPT-hez hasonló generatív MI-technológia hajt. Egyszerre végtelen számú, személyre szabott egyszemélyes beszélgetésre képes.
A generatív mesterséges intelligencia találkozása a politikával
Ashley az egyik első példa arra, hogy a generatív MI a politikai kampányolás új korszakát vezeti be, amelyben a jelöltek a technológia segítségével egyre nehezebben nyomon követhető módon lépnek kapcsolatba a választókkal. Egyesek számára ez egy izgalmas új eszköz a nagyszabású, minőségi beszélgetések lefolytatására. Mások viszont attól tartanak, hogy ez tovább rontja majd a dezinformációt az amerikai politika polarizálódott környezetében, ahol már most is a „deepfake”, azaz a mesterségesintelligencia-algoritmusok segítségével létrehozott, valósághű, de hamisított videók és képek ellen folyik a küzdelem.
A hétvégén Ashley több ezer pennsylvaniai szavazót hívott fel Daniels nevében. Mint egy tapasztalt kampány önkéntes, Ashley elemzi a választók profilját, hogy a legfontosabb témáik köré szabja a beszélgetéseket. Egy emberrel ellentétben Ashley mindig megjelenik a munkához, tökéletesen emlékszik Daniels összes álláspontjára, és nem csügged, ha leteszik a telefont.
„Ez gyorsan fog terjedni. Az év végére napi több tízezer hívást tervezünk lebonyolítani, és hamarosan hat számjegyű lesz az eredmény. … A jövő már most van”,
mondta Ilya Mouzykantskii, az Ashley mögött álló cég, a Civox londoni székhelyű vezérigazgatója.
Daniels számára az eszköz kiegyenlíti a játékteret: alulmaradóként most egy újabb lehetőséggel van felvértezve, hogy jobban megértse a szavazókat, különböző nyelveken érje el őket (Ashley több mint 20 nyelven beszél folyékonyan), és sokkal több, nagy sávszélességű beszélgetést folytasson.
Aggódik a világ
A fejlesztés azonban sokakat aggaszt, köztük az OpenAI vezérigazgatóját, Sam Altmant, aki májusban a kongresszusban azt vallotta, hogy ideges a generatív mesterséges intelligencia azon képességével kapcsolatban, hogy egy az egy elleni interaktív dezinformáció révén veszélyeztetheti a választások integritását. A technológia, amely internetes adatok tömkelegéből tanul, olyannyira jól teljesített a valósághű beszélgetésekben, hogy az elmúlt hónapokban az emberek beleszerettek az MI-alapú chatbotokba, és házasságot kötöttek velük.
Mouzykantskii elmondta, hogy teljes mértékben tisztában van a lehetséges hátrányokkal, és nem szándékozik olyan kockázati tőkefinanszírozást elfogadni, amely arra csábítaná, hogy a profitot az etika elé helyezze. Az OpenAI-hoz hasonlóan ő is szokatlan irányítási struktúrát hoz létre: egy olyan bizottságot, amely felhatalmazást kap arra, hogy rákényszerítse őt, hogy nyilvánosságra hozzon mindent, ami a céggel kapcsolatban aggodalomra ad okot. A Civox úgy döntött, hogy robothangot ad Ashley-nek, és nyilvánosságra hozza, hogy ő egy mesterséges intelligencia, annak ellenére, hogy jogilag nem kötelezhető erre.
Mouzykantskii és társalapítója, Adam Reis, a Stanford, illetve a Columbia Egyetem egykori informatikus hallgatói, nem voltak hajlandóak nyilvánosságra hozni, hogy pontosan milyen generatív MI-modelleket használnak. Csak annyit mondanak, hogy több mint 20 különböző MI-modellt használnak, némelyik szabadalmaztatott, némelyik nyílt forráskódú. A legújabb generatív MI-technológiáknak köszönhetően Reis szinte teljesen egyedül tudta felépíteni a terméket, míg néhány évvel ezelőtt egy 50 mérnökből álló csapatnak több évre lett volna szüksége ehhez – mondta.
A deepfake szabályozása
Kevés jogi védőkorlát szabályozza a mesterséges intelligencia ilyen módon történő felhasználását – legalább is jelenleg. „Nem tudom, milyen szövetségi törvény alapján lenne ez illegális”, mondta Robert Weissman, a Public Citizen nonprofit fogyasztóvédelmi szervezet elnöke.
Michigan egyike annak a néhány államnak, amely már elfogadta vagy éppen most tárgyalja a választásokon történő deepfake szabályozására vonatkozó jogszabályokat. Pennsylvaniában, ahol Daniels indul, nincs ilyen jogszabály. Egyetlen szabály sem vonatkozik közvetlenül arra, amit a Civox csinál. A Szövetségi Kereskedelmi Bizottság szabályzata megtiltja a telemarketingeseknek, hogy a „Ne hívj” listán szereplő személyeknek robothívásokat intézzenek, de a lista nem vonatkozik a politikai hívásokra – és a Civox tevékenysége, a „személyre szabott” üzenetekkel, nem minősül robothívásnak.
A Szövetségi Kommunikációs Bizottság tiltja a kampányhoz kapcsolódó, automatikus vagy előre felvett hanghívásokat, beleértve a mobiltelefonokra irányuló automatikus élő hívásokat is a címzett előzetes beleegyezése nélkül. Az FCC emellett hivatalos vizsgálatot indít arról, hogy a mesterséges intelligencia technológia hogyan befolyásolja az illegális és nem kívánt robothívásokat. A Szövetségi Választási Bizottság megkezdte annak vizsgálatát, hogy szabályozza-e a mesterséges intelligencia használatát a kampányokban.
E szabályok egyike sem vonatkozik arra, ahogyan a kampányok a Mouzykantskii technológiáját használják.
Mouzykantskii elmondta, hogy üdvözli a szabályozást, megjegyezve, hogy a technológia alkalmas a félretájékoztatás terjesztésére. Más cégek valószínűleg olyan mesterséges intelligenciával működő hívókat fognak létrehozni, amelyek hangja majdnem azonos egy valódi emberével, és nem hozzák nyilvánosságra, hogy a hívó mesterséges intelligencia által generált.
„Elgondolkodtató lehet, hogy mennyire közel vagyunk a jövő egy olyan változatához, amely eddig csak a sci-fi filmekben és könyvekben volt elérhető. És ez önmagában is ok arra, hogy a szabályozók és a jogalkotók, nemcsak az Egyesült Államokban, hanem világszerte elkezdjenek odafigyelni”,
mondta.
A 63 éves David Fish annak ellenére élvezte Ashley hallgatását, hogy azonnal meg tudta állapítani, hogy nem emberről van szó. „Ez az egy lekötötte a figyelmemet. Az tetszett igazán, hogy azonosította magát, mint mesterséges intelligencia, és nem próbált becsapni.”
