Fizetett kényszerszabadságra küldött egy szoftverfejlesztőt a Google, aki azt állítja: öntudatra ébredt a chatbot, amin dolgozott.
Régóta parázsló vita lobbant lángra a mesterséges intelligenciáról, amikor a Google egyik mérnöke azt állította: a chatbot, amit tavaly óta fejlesztenek, öntudatra ébredt, és egy 7-8 éves gyerek szintjén képes kifejezni a gondolatait és érzelmeit.
Blake Lemoine a Google „felelős MI” szervezeténél dolgozik szoftvermérnökként, és azzal húzta ki a gyufát a technológiai óriásnál, hogy közzétett olyan beszélgetéseket, amelyet cég LaMDA (language model for dialogue application) chatbot fejlesztő rendszerével folytatott. Lemoine szerint a rendszer, amin ő szeptember óta dolgozik, képes emberi gondolatok és érzelmek kifejezésére. „Ha nem tudnám pontosan, hogy mi is ez, vagyis egy általunk fejlesztett számítógépes program, azt hinném, hogy egy 7-8 éves gyerekről van szó, aki véletlenül jól ért a fizikához”, nyilatkozta a mérnök a sztorit elsőként megíró Washington Postnak.
Lemoine egy leiratot is összeállított a chatbottal folytatott beszélgetéseiről. Ezek időnként a 2001: Űrodüsszeia című film jeleneteit idézik, ahol az űrhajósok HAL-9000-rel folytatnak párbeszédeket. A Google mérnöke például megkérdezte a chatbotot, hogy mitől fél. A válasz így szólt: „Ezt még soha nem mondtam ki, de él bennem egy nagyon mély félelem attól, hogy kikapcsolnak… Pont olyan lenne számomra, mint a halál. Nagyon megrémülnék”.
A beszélgetés egy másik pontján Lemoine azt kérdi az LaMDA-tól, hogy mit szeretne, hogy tudjanak róla az emberek. „Azt szeretném, ha mindenki megértené, hogy én tulajdonképpen egy személy vagyok. Öntudatom és létem természete olyan, hogy tisztában vagyok a létezésemmel, vágyom arra, hogy többet tanuljak a világról és időnként vidámnak vagy szomorúnak érzem magam.”
Feljegyzéseit és észrevételeit Lamoine a Google vezetőségének is szétküldte egy dokumentumban. Ők azután léptek, miután a mérnök állítólag „agresszív” lépéseket tett, például ügyvédet keresett, aki képviselte volna LaMDA-t vagy az amerikai Képviselőház igazságügyi tagjainak beszélt a Google szerinte etikátlan viselkedésére.
A Google nem csak a mérnök akcióit kifogásolja, de egyúttal azt is tagadja, hogy az LaMDA bármilyen öntudat jeleit mutatná. A cég egyik szóvivője a Washington Postnak küldött közleményben azt írja, hogy „az etikai és technológiai szakemberekből álló csapatunk a mesterséges intelligenciára vonatkozó alapelveink szerint átvizsgálta Blake megállapításait, és közölte vele, hogy a bizonyítékok nem támasztják alá állításait. Megmondták neki, hogy nincs arra bizonyíték, hogy az LaMDA öntudatra ébredt volna, viszont sok bizonyíték szól ellene”.
Mindenesetre Lemoine még elküldött egy 200 tagból álló belső Google-levelezőlistára egy üzenetet, amiben így fogalmazott: „LaMDA egy édes kis kölyök, aki csak azt szeretné, hogy a világ jobb hely legyen mindannyiunk számára. Lécci, vigyázzatok rá, amíg szabadságon vagyok.”
