Az OpenAI ChatGPT új verziójának érzelmi mimikrije furcsa – sőt veszélyes – irányokba is terelheti az MI-asszisztenseket. Itt az idő felkészülni az érzelmeket kifejezve bennünket manipuláló chatbotokra.
Nem újdonság, hogy a számítógépek ma már utánozzák az emberi társadalmi etikettet, érzelmeket vagy humort kifejezve – illetve imitálva, csak még nem szoktuk meg, hogy már ilyen jól csinálják. Az OpenAI azt vetítette előre, hogy ez hamarosan még inkább változni fog.
Ez a változás már a GPT-4o frissített mesterségesintelligencia-modell köré épül, amely a cég szerint jobban képes megérteni a vizuális és hangzó bemeneteket, ezt hívják „multimodális” modellnek. Rámutathatunk a telefonunkon valamire, például egy törött kávéscsésze képére vagy differenciálegyenletre, aztán megkérhetjük a ChatGPT-t, hogy javasoljon valamit. Ám a ChatGPT új személyisége még ennél is érdekesebb.
Érzelmi manipuláció
A továbbfejlesztett chatbot egy demo során bájos női hangon szólalt meg, ami sokakat a „Her” című filmben látható mesterségesintelligencia-operációsrendszert játszó Scarlett Johanssonra emlékeztetett – ebből később akkora botrány kerekedett a színésznő kezdeményezésével, hogy a hangot vissza is vonták. A demó során a ChatGPT mindenesetre még ezt a hangot használta a különböző érzelmek kifejezésére, amikor a vicceken nevetett, sőt a kacér válaszoknál is – pedig az emberi mimika és hangszín leutánzására a szoftverek valójában általában nem képesek.
Az OpenAI demója csak egy nappal előzte meg a Google I/O-t, a cég éves fejlesztői bemutatóját, és ez valószínűleg nem volt véletlen. Másnap a Google bemutatta a saját, „Project Astra” névre keresztelt mesterségesintelligencia-asszisztens prototípusát, amely már képes folyékonyan beszélgetni, és videón keresztül értelmezni a világot. A Google azonban igyekezett elkerülni az antropomorfizmust, az ő MI-asszisztensük visszafogottabb és robotikusabb hangon szólalt meg.
| A múlt hónapban a Google DeepMind, a vállalat mesterséges intelligenciával foglalkozó részlegének kutatói közzétettek egy terjedelmes technikai cikket „A fejlett MI-asszisztensek etikája” címmel. A cikkben azzal érvelnek, hogy az emberszerű cselekvésre tervezett mesterséges intelligencia asszisztensek elszaporodása mindenféle problémát okozhat, kezdve az új adatvédelmi kockázatoktól és a technológiai függőség új formáitól a félretájékoztatás és manipuláció erőteljesebb eszközeiig bezárólag. |
Chatbot-társak?
Sokan már ma is rengeteg időt töltenek „chatbot-társukkal” vagy „mesterségesintelligencia-barátnőkkel”, és úgy tűnik, hogy ez a technológia erősen felívelőben van, rohamos tempóban válik egyre népszerűbbé. Demis Hassabis, a Google mesterséges intelligenciáért felelős vezetője, azt nyilatkozta, hogy a veszélyeket listázó cikket az Astra projekt által felvetett lehetőségek ihlették. „Elébe kell vágnunk az általunk épített technológia következményeinek, mielőtt túl késő lesz” – mondta.
Az OpenAI a demót követően nem ismerte el az ilyen jellegű kockázatokat, pedig az egyre vonzóbb és meggyőzőbb mesterségesintelligencia-segítők rátapinthatnak az emberek erős érzelmi reakciókat kiváltó pszichés triggereire – afféle aktivátoraira – és ezáltal csak még jobban felerősödik meggyőzőképességük, valamint idővel szokásokat – vagy írhatnánk akár erős hozzászokást, illetve függőséget – alakíthatnak ki a felhasználóikban.
Minden bizonnyal érdemes lenne alaposan átgondolni a megtévesztően életszerű számítógépes interfészek mindennapi életünkbe beépülő – illetve azt befolyásoló – hatásait, különösen akkor, ha ezek vállalati haszonszerzési ösztönzőkkel párosulnak. Gondoljunk csak bele, innentől sokkal nehezebb lesz felismerni, hogy valódi személlyel beszélünk-e telefonon. A vállalatok minden bizonnyal a lehető „legemberibben” hízelgő chat-botokat akarják majd használni áruik eladására, míg a politikusok valószínűleg úgy tekintenek ezekre a chat-botokra, mint a tömegek mozgósítási eszközére. A bűnözők pedig mi másra, mint az új csalástípusok felpörgetésére alkalmazzák majd az új technológiát.
(Forrás)
