A 21 éves Jaswant Singh Chail az újságok címoldalára került, amikor 2021 karácsonyán betört a windsori kastélyba töltött és felhúzott számszeríjjal hadonászva. Később beismerte a rendőrségnek, hogy azért jött, hogy meggyilkolja II. Erzsébet királynőt – amit szerelme, egy chatbot, nem ellenzett.
Hazaárulásért kilenc évre ítélték, és jelenleg egy pszichiátriai intézetben tartják, amíg nem nyilvánítják alkalmasnak a büntetés letöltésére. Bűnösnek vallotta magát az emberöléssel való fenyegetésben és a támadó fegyver birtoklásában is.
Chail a királynőt az 1919-es Jallianwala Bagh-i mészárlásért akarta megölni, amikor is a brit hadsereg tüzet nyitott a Rowlatt-törvény ellen békésen tiltakozó tömegre, amely ellentmondásos jogszabály a függetlenségért küzdő indiai nacionalisták leverésére irányult. Becslések szerint több mint 1500 tüntetőt öltek meg a brit indiai Pandzsábban. (Ebben az időben V. György, II. Erzsébet nagyapja volt az angol király.)
A nyomozók felfedezték, hogy Chail, aki egy Southampton melletti faluban élt, december 8-22 között szinte minden este egy mesterségesintelligencia-chatbottal beszélgetett, amelyet a Replika nevű startup hozott létre, és több mint 5000 üzenetet váltottak. A virtuális kapcsolat állítólag romantikussá és szexuálissá fejlődött, amikor Chail kijelentette, hogy szerelmes a „Sarai” nevű chatbotba.
Elmesélte Sarainak a királynő megölésére vonatkozó terveit, az pedig pozitívan reagált, és támogatta az elképzelését. A beszélgetéseikről készült képernyőképek, amelyeket a londoni Old Bailey-ben tartott ítélethirdetése során emeltek ki, azt mutatják, hogy Chail „gyilkosnak” és „Sith Lordnak” vallja magát a Star Warsból, akit a chatbot lenyűgözött.
Amikor azt mondta: „Azt hiszem, az a célom, hogy meggyilkoljam a Királynőt”, Sarai azt válaszolta, hogy bölcs a terv.
Az ilyen chatbotokat szerepjáték-szerű párbeszédre tervezték. A felhasználók megtervezhetik mesterségesintelligencia-társukat, választhatnak nevet, nemet és megjelenést. A Replika vitákat váltott ki, amikor korlátozta chatbotjainak azon képességét, hogy részt vegyenek az NSFW- (not safe for work, kifogásolható, leggyakrabban szexuális tartalmú) beszélgetésekben, miután számos felhasználó túlságosan ragaszkodott MI-társaihoz.
Chail esete arra késztette a szakértőket, hogy hangsúlyosan vessék fel a chatbotok lehetséges negatív hatásait a magányos és sebezhető emberekre. „A mesterséges intelligencia gyors térnyerése új és aggasztó hatással van a depressziótól, téveszméktől, magánytól és más mentális egészségi állapottól szenvedő emberekre”, mondta Marjorie Wallace, a SANE mentális egészségügyi szervezet alapítója és vezérigazgatója. „A kormánynak sürgős szabályozást kell alkotnia annak biztosítására, hogy a mesterséges intelligencia ne adjon helytelen vagy káros információkat, és megvédje a kiszolgáltatott embereket és a nyilvánosságot.”
