Rendőrségi nyomozás, majd várhatóan egy eléggé kellemetlen bírósági tárgyalás vár Dazhon Darientre, az egyik baltimore-i középiskola testneveléstanárára. Nem volt jó ötlet deepfake felvételt készítenie az iskolán belül zajló ügyekről – és pláne lebukni vele. Őrizetbe vétel lett a vége.
A Baltimore megyei rendőrség április 15-én, csütörtökön kopogtatott a tesitanár lakásának ajtaján. A megalapozott gyanú szerint ugyanis Dazhon Darien generatív mesterséges intelligenciát használt arra, hogy olyan, kifejezetten rasszista beszédet hamisítson, amely úgy hangzott, mintha azt a pikesville-i középiskola igazgatója mondta volna.
A deepfake felvétel még 2024 januárjában terjedt el a közösségi médiában. A felvezetés drámai volt: a Pikesville High School igazgatója, Eric Eiswert rasszista és antiszemita megjegyzéseket tesz! A válasz nem késett sokat: vizsgálat indult a vezető ellen és egy időre fel is függesztették az állásából. Az alapos szakértői vizsgálatok során azonban kiderült: a hangfelvételt az MI készítette. Árulkodónak bizonyult a lapos hangszín, a szokatlanul tiszta háttérhangok, valamint a légzési hangok és szünetek hiánya teljes hiánya.
A rendőrség kiderítette, hogy Dazhon Darien, az iskola egykori sportigazgatója a középiskola számítógépes hálózatán keresztül férhetett hozzá a az OpenAI eszközökhöz és a Microsoft Bing Chat szolgáltatásaihoz. Mondjuk a nyomozást segítette az is, hogy a hangfelvétel közzétételéhez egy olyan, hozzá köthető e-mail címet használt, melynek helyreállítási biztonsági szolgáltatásához a saját mobiltelefonjának számát adta meg.
A rendőrség közleménye szerint Darien azért készítette a felvételt, hogy visszavágjon az igazgatónak, aki abban az időben az iskolai pénzek esetleges rossz kezelésével kapcsolatos vizsgálatot folytatott. Az ügyben éppen Dazhon Darien került gyanúba.
A volt sportigazgatót végül csak óvadék letétele után helyezték szabadlábra, de többek között lopással (ez még az eredeti, az iskolai pénzekkel kapcsolatos ügy miatt szerepel a listán), az iskola működésének megzavarásával, tanú elleni megtorlással és zaklatással vádolják.
Az elmúlt évben egyre nagyobb volt az érdeklődés a mesterséges intelligenciával működő, deepfake-alapnak is kiváló hangklónozási technológia iránt. A szolgáltatások ugyanis egyre jobban képesek utánozni a valós emberi hangot. Ilyen deepfake eszközökkel éltek már a pakisztáni választási kampányban, de volt már telefonos, tömeges gépi hívás is Joe Biden elnök hamisított hangján. Nem véletlenül aggódnak egyre többen, hogy a 2024-es, igen feszültnek ígérkező amerikai elnökválasztási kampány során minden eddiginél nagyobb szerepet kaphatnak majd a hamisított hang- és videofelvételek, fényképek.
Az sem véletlen, hogy az OpenAI márciusban úgy döntött, hogy visszatartja a „Voice Engine” nevű, mesterséges intelligenciára alapozott, szövegből minden eddiginél élethűbb hangokat generáló, így a deepfake készítésére tökéletesen alkalmas platformját a nyilvános használattól. Így jelenleg csak a kutatók egy kicsiny csoportja érhető el az új technológia. Talán jobb is: a hamisított felvétel megalkotásához nem kell más, csak egy 15 perces, eredeti hangfelvétel a lemásolni kívánt személytől.
