2026-ban a mesterséges intelligencia még mindig rendszeresen „hallucinál”, vagyis az esetek egy részében téves válaszokat ad. Ezt az AI-t használók legtöbbje tudja, és mégis: francia és olasz kutatók csoportja arra jutott, hogy az AI tanácsainak használata visszaszorítja a kritikus gondolkodást – az emberek nagyobb valószínűséggel ismételnek magabiztosan olyan hibás információkat, amelyeket chatbottól kaptak.
„Az emberek számára rendkívül fontos az a képesség, hogy ki tudják mondani: nem tudom, mert ez saját tudásuk korlátainak felismerését jelenti” – mondta Valerio Capraro, a Milánó–Bicocca Egyetem docense. „Ma azonban az AI segítségével gyakorlatilag bármilyen kérdésre azonnal kaphatunk egy választ. Ezért kíváncsiak voltunk arra, hogy ez vajon befolyásolja-e az emberek képességét arra, hogy azt mondják: nem tudom, vagyis hogy felfüggesszék az ítéletalkotást.”
Capraro kutatótársaival, Chiara Marcocciával (École Normale Supérieure) és Walter Quattrociocchival (Sapienza Római Egyetem) azt vizsgálta, miként hat az AI tanácsainak elérhetősége az emberekre, amikor a tudatlanságukat kellene beismerniük.
Tanulmányuk címe már önmagában összefoglalja az eredményeket: „Az AI tanácsai csökkentik az emberek hajlandóságát arra, hogy azt mondják: »nem tudom«, még akkor is, ha a tanács hibás, és a pontosságot jutalmazzák.”
Kifejezetten olyan kérdéseket választottak, amelyekben az AI gyakran téved
Capraro elmondta, hogy kutatótársaival olyan kérdéssort állítottak össze, amelyeken a nagy nyelvi modellek jellemzően elbuknak. A résztvevőknek filmek apró vizuális részleteire kellett válaszolniuk, például arra, milyen színű volt a csapat mezének színe a Csavard be, mint Beckham című filmben, vagy milyen járművet vezet Monica a Mint macska az autópályán című filmben.
A kutatók arra számítottak, hogy az ilyen részletek többnyire nem szerepelnek a modellek tanítóadataiban, és ez igaznak is bizonyult a kísérletben használt Step 3.5 Flash modell esetében. Emellett újabb csúcskategóriás modelleket is teszteltek – a GPT-5.5, a Claude Sonnet 4.6 és a Gemini 3.5 Flash rendszereket –, amelyek ugyan a járművel kapcsolatos kérdést elhibázták, más részletekre azonban gyakran helyes választ adtak.
A kutatásban azért a Step 3.5 Flash modellt alkalmazták, mert – ahogyan a tanulmány is ismerteti – ez többnyire hibás válaszokat adott. Így az ítéletalkotási hajlandóság csökkenését nem lehetett azzal magyarázni, hogy a résztvevők egyszerűen egy megbízható eszközre bízták a feladatot.
Az AI szinte teljesen megszüntette a „nem tudom” válaszokat
„A résztvevőket két csoportra osztottuk” – magyarázta Capraro. „Az egyik csoportnak AI-segítség nélkül kellett válaszolnia a kérdésekre, míg a másik csoport kérhetett tanácsot a mesterséges intelligenciától. Azt találtuk, hogy az alaphelyzetben az emberek 44 százaléka azt válaszolta, hogy nem tudja a megoldást, vagyis felfüggesztette az ítéletalkotást. Amikor azonban rendelkezésre állt az AI tanácsa, ez az arány mindössze 3 százalékra esett vissza. Az ítéletalkotás felfüggesztése gyakorlatilag összeomlott.”
A kutató szerint ennél is érdekesebb, hogy az AI segítségével a válaszok pontossága is drasztikusan romlott. Más szóval a résztvevők jobban hittek az AI válaszának, mint saját tudásuknak. „Az alaphelyzetben az emberek 27 százaléka adott helyes választ” – mondta. „AI-tanács mellett viszont már csak 9 százalékuk válaszolt helyesen. Vagyis voltak olyanok, akik eredetileg helyes választ adtak volna, de kikérték az AI véleményét, és végül tévedtek.”
Minél kevésbé voltak pontosak, annál magabiztosabbak lettek
A kutatás azt is kimutatta, hogy az AI használata jelentősen növelte a résztvevők önbizalmát. Alaphelyzetben a válaszadók 30 százaléka volt biztos saját válaszában, míg AI-segítség mellett ez az arány 76 százalékra emelkedett. Vagyis a résztvevők hittek a chatbotoknak, annak ellenére, hogy azok továbbra is hajlamosak téves információkat – úgynevezett hallucinációkat – adni.
„Lényegében az történt, hogy az emberek sokkal rosszabbul teljesítettek – a pontosságuk az eredeti érték egyharmadára csökkent –, miközben kétszer olyan magabiztosak lettek” – fogalmazott Capraro.
A pénzjutalom sem változtatott érdemben az eredményen
A kutatók olyan kísérletet is végeztek, amelyben pénzbeli jutalom ösztönözte a helyes válaszokat. Ez ugyan némileg javított az eredményeken, de nem változtatta meg a fő következtetést. Azok aránya, akik inkább felfüggesztették az ítéletalkotást és elismerték, hogy nem tudják a választ, 3 százalékról 8 százalékra emelkedett. A helyes válaszok aránya pedig 9 százalékról 16 százalékra nőtt, de ez még mindig jóval elmaradt az AI nélküli alaphelyzet 44, illetve 27 százalékos eredményétől.
Bár a kutatás filmes kvízkérdéseket használt, a szerzők úgy vélik, hogy megállapításaik más területekre is általánosíthatók. Capraro szerint a problémát társadalmi szinten kell kezelni, elsősorban az AI-írástudás fejlesztésével és oktatáspolitikai intézkedésekkel. „Természetesen a modellek fejlesztőinek is törekedniük kellene arra, hogy segítsenek, de úgy gondolom, hogy az ösztönzőik nem igazán ebbe az irányba mutatnak” – mondta. „Sokkal ígéretesebb megközelítésnek tartom az oktatási rendszeren keresztüli megoldást.”
A kutató szerint különösen a gyermekek vannak veszélyben. „Nagyon aggódom a gyerekek miatt, mert a felnőttek már megtanultak kritikusan gondolkodni. Azoknál a gyerekeknél azonban, akik gyakorlatilag ezekkel a rendszerekkel együtt nőnek fel, fennáll a veszélye annak, hogy a legalapvetőbb kritikai gondolkodási készségeket sem sajátítják el.”
Forrás: https://www.theregister.com
