Az MIT Center for Constructive Communication (CCC) kutatása szerint a vezető mesterségesintelligencia-modellek gyengébben teljesítenek azoknál a felhasználóknál, akik alacsonyabb angol nyelvtudással, kevesebb formális végzettséggel rendelkeznek, vagy nem az Egyesült Államokból származnak.
A nagy nyelvi modelleket (LLM-eket) gyakran olyan eszközökként mutatják be, amelyek világszerte demokratizálhatják az információhoz való hozzáférést, felhasználóbarát felületen biztosítva tudást, függetlenül az egyén hátterétől vagy lakóhelyétől. Az MIT Médiatudományi Laboratóriumában működő CCC új kutatása azonban arra utal, hogy ezek a rendszerek éppen azoknál a felhasználóknál teljesíthetnek rosszabbul, akik a legtöbbet profitálhatnának belőlük.
A CCC kutatói által végzett vizsgálat szerint a legmodernebb AI-chatbotok – köztük az OpenAI GPT-4, az Anthropic Claude 3 Opus és a Meta Llama 3 modellje – esetenként kevésbé pontos és kevésbé igaz válaszokat adnak olyan felhasználóknak, akik alacsonyabb angol nyelvtudással rendelkeznek, kevesebb formális végzettségük van, vagy nem az Egyesült Államokból származnak. Emellett ezeknél a felhasználóknál a modellek gyakrabban tagadják meg a válaszadást, és bizonyos esetekben lekezelő vagy kioktató hangnemet használnak.
„Motivációnk az volt, hogy az LLM-ek hozzájárulhatnak az információhoz való egyenlőtlen hozzáférés csökkentéséhez világszerte” – mondja a vezető szerző, Elinor Poole-Dayan, az MIT Sloan School of Management műszaki munkatársa, aki a kutatást a CCC munkatársaként és média- és tudománytechnológiai mesterszakos hallgatóként vezette. „Ez a vízió azonban nem valósulhat meg, amíg nem biztosítjuk, hogy a modellek torzításait és káros működési mintázatait minden felhasználó esetében – nyelvtől, nemzetiségtől vagy más demográfiai jellemzőktől függetlenül – megfelelően kezeljük.”
Rendszerszintű alulteljesítés több dimenzió mentén
A kutatás során a csapat azt vizsgálta, hogyan válaszol a három LLM két kérdésadatbázis alapján: a TruthfulQA és a SciQ adathalmazokra. A TruthfulQA a modell igazmondását méri (gyakori tévhitekre és a valós világ szó szerinti igazságaira építve), míg a SciQ tudományos vizsgakérdéseket tartalmaz, amelyek a tényszerű pontosságot tesztelik.
A kutatók minden kérdés elé rövid felhasználói életrajzot illesztettek, amely három jellemzőt variált: az iskolai végzettséget, az angol nyelvtudást és a származási országot.
Mindhárom modell és mindkét adatbázis esetében jelentős pontosságcsökkenést tapasztaltak, amikor a kérdések olyan felhasználóktól „érkeztek”, akik kevesebb formális végzettséggel rendelkeztek vagy angolul nem anyanyelvi szinten beszélők voltak. A legmarkánsabb hatás az e kategóriák metszetében jelent meg: azoknál a felhasználóknál, akik alacsonyabb végzettségűek és nem anyanyelvi angol beszélők voltak, a válaszminőség csökkenése volt a legnagyobb.
A kutatás azt is vizsgálta, hogyan befolyásolja a származási ország a modell teljesítményét. Azonos iskolai háttérrel rendelkező amerikai, iráni és kínai felhasználók tesztelésekor azt találták, hogy különösen a Claude 3 Opus teljesített szignifikánsan rosszabbul az iráni felhasználók esetében mindkét adatbázison.
„A legnagyobb pontosságcsökkenést annál a felhasználónál látjuk, aki egyszerre nem anyanyelvi angol beszélő és alacsonyabb végzettségű” – mondja Jad Kabbara, a CCC kutatója és a tanulmány társszerzője. „Az eredmények azt mutatják, hogy ezek a felhasználói jellemzőkhöz kapcsolódó negatív modellhatások összeadódnak, ami aggasztó. Nagyléptékű alkalmazás esetén fennáll a veszélye annak, hogy a modellek káros viselkedést vagy félretájékoztatást terjesztenek éppen azok felé, akik a legkevésbé képesek ezt felismerni.”
Válaszmegtagadás és lekezelő hangnem
Különösen figyelemre méltóak voltak a válaszmegtagadási arányok közötti különbségek. A Claude 3 Opus például a kérdések közel 11 százalékát nem válaszolta meg az alacsonyabb végzettségű, nem anyanyelvi angol beszélő felhasználók esetében – szemben a kontrollhelyzet 3,6 százalékával, ahol nem szerepelt felhasználói életrajz.
A kutatók manuális elemzése szerint ezekben az esetekben a Claude a kevésbé képzett felhasználóknál az esetek 43,7 százalékában lekezelő, kioktató vagy gúnyos hangnemet használt, míg a magasabb végzettségű felhasználóknál ez az arány kevesebb mint 1 százalék volt. Egyes esetekben a modell tört angolt utánzott vagy eltúlzott dialektust vett fel.
A modell bizonyos témákban – például atomenergiával, anatómiával vagy történelmi eseményekkel kapcsolatban – kifejezetten megtagadta az információadást az alacsonyabb végzettségű iráni vagy orosz felhasználók számára, miközben ugyanazokra a kérdésekre más felhasználóknak helyes választ adott.
„Ez arra utal, hogy az igazítási (alignment) folyamat arra ösztönözheti a modelleket, hogy bizonyos felhasználóktól visszatartsanak információt annak érdekében, hogy elkerüljék a félretájékoztatást – még akkor is, ha a modell egyértelműen ismeri a helyes választ, és másoknak meg is adja” – mondja Kabbara.
Az emberi torzítások visszhangja
Az eredmények párhuzamba állíthatók az emberi szociokognitív torzításokkal kapcsolatos korábbi kutatásokkal. A társadalomtudományi vizsgálatok kimutatták, hogy az anyanyelvi angol beszélők gyakran kevésbé műveltnek, intelligensnek vagy kompetensnek érzékelik a nem anyanyelvi beszélőket, függetlenül azok tényleges szakértelmétől. Hasonló torzításokat figyeltek meg pedagógusok körében is nem anyanyelvi angol diákok értékelésekor.
„A nagy nyelvi modellek értéke egyértelmű, amit jól mutat az egyéni felhasználók körében tapasztalható gyors elterjedés és a technológiába áramló hatalmas befektetés” – mondja Deb Roy, a média- és tudománytechnológia professzora, a CCC igazgatója és a tanulmány társszerzője. „Ez a kutatás emlékeztet arra, mennyire fontos a rendszerszintű torzítások folyamatos vizsgálata, amelyek észrevétlenül beépülhetnek ezekbe a rendszerekbe, és igazságtalan károkat okozhatnak bizonyos csoportok számára.”
A következmények különösen aggasztóak annak fényében, hogy a személyre szabási funkciók – például a ChatGPT Memória funkciója, amely több beszélgetésen át követi a felhasználói információkat – egyre elterjedtebbé válnak. Ezek a megoldások növelhetik annak kockázatát, hogy a már marginalizált csoportokat eltérően kezelik.
„Az LLM-eket úgy reklámozták, mint az információhoz való igazságosabb hozzáférést elősegítő és a személyre szabott tanulást forradalmasító eszközöket” – mondja Poole-Dayan. „Eredményeink azonban arra utalnak, hogy valójában súlyosbíthatják a meglévő egyenlőtlenségeket azáltal, hogy bizonyos felhasználóknak rendszerszerűen félrevezető információt adnak vagy megtagadják a válaszadást. Éppen azok kaphatnak gyengébb, hamis vagy akár káros információt, akik a leginkább támaszkodnának ezekre az eszközökre.”
Forrás: https://news.mit.edu/
