Az emberek nap mint nap összetett döntéseket hoznak, legyen szó orvosokról, akik tünetek alapján állítanak fel diagnózist, vagy bírákról, akik bírósági ügyekben döntenek. Egyre gyakrabban vesznek igénybe mesterséges intelligencián alapuló eszközöket e döntések támogatására. Ennek a fajta „segítségnek” azonban van egy alattomos hátulütője.
Kutatások szerint az AI-ra való túlzott támaszkodás rosszabb vagy pontatlan döntésekhez vezethet, emellett pedig a szakértelem fokozatos elvesztését is okozhatja: idővel az emberek kevesebbet tanulnak az adott szakterületről, ami egy önmagát erősítő spirált eredményez, amelyben a növekvő függőség együtt jár a romló teljesítménnyel.
A Harvard Egyetem John A. Paulson Mérnöki és Alkalmazott Tudományok Karának (SEAS) informatikusai szerint erre a problémára létezhet megoldás. Egy friss tanulmányukban azt állítják, hogy a mesterséges intelligenciának nem egységes, minden felhasználóra azonos módon működő döntéstámogatást kellene nyújtania – ahogyan ez ma jellemző –, hanem alkalmazkodnia kellene az adott helyzethez és az egyes felhasználók sajátosságaihoz.
Ennek érdekében olyan AI-ajánlórendszert fejlesztettek ki, amely megerősítéses tanulást (reinforcement learning) alkalmaz. Ez a gépi tanulási módszer folyamatos visszajelzések alapján tanítja meg a rendszert arra, hogy milyen lépéseket érdemes megtennie. Az új modell nem egyszerűen válaszokat ad, hanem minden helyzetben eldönti, hogy mikor és milyen mértékben nyújtson segítséget az embernek.
A több mint ezer résztvevő bevonásával végzett online kísérletek azt mutatták, hogy a megerősítéses tanulásra épülő rendszer hatékonyabban javította az ember és az AI közös teljesítményét, mint bármely ma elterjedt AI-alapú támogatási forma.
A kutatást Zana Buçinca, a Harvard frissen végzett informatikai PhD-hallgatója, jelenlegi MIT-oktató vezette. Az eredményeket az ACM Transactions on Computer-Human Interaction folyóirat közölte, és még idén bemutatják az ACM User Interface Software and Technology (UIST) konferencián.
„Tekintettel arra az aggasztó tendenciára, hogy az emberek túlzottan támaszkodnak az AI-ra, olyan rendszert akartunk tervezni, amely figyelembe veszi és optimalizálja azt, ahogyan az emberek feldolgozzák az AI tanácsait” – mondta Buçinca. A tanulmány társszerzői korábbi témavezetője, Krzysztof Gajos, a Harvard számítástechnikai professzora, valamint Maja Malaya, a lengyelországi Łódźi Műszaki Egyetem hallgatója.
Hogyan hoznak közösen döntéseket az emberek és a mesterséges intelligencia?
Buçinca és kutatótársai korábbi munkájukban azt vizsgálták, miként működnek együtt az emberek és az AI a döntéshozatal során. Megállapították, hogy az emberek hajlamosak túlzottan megbízni az AI ajánlásaiban: gyakran elfogadják a hibás javaslatokat is, még akkor is, amikor saját erejükből helyes döntést tudnának hozni.
Korábbi kutatásuk azt is kimutatta, hogy jelentős egyéni különbségek vannak abban, hogyan fogadják az emberek az AI által nyújtott információkat. Vannak, akiknek nagyobb az úgynevezett „megismerési igényük” (need for cognition), vagyis élvezik az elemző gondolkodást és motiváltak benne, míg mások kevésbé hajlamosak mélyebb gondolkodásra. Ez is azt támasztotta alá, hogy az AI-segítségnek alkalmazkodnia kell a helyzethez és a döntéshozók egyéni jellemzőihez.
Az új rendszerben a megerősítéses tanulási ügynök az embert és az AI-t egyetlen együttműködő egységként figyeli. Figyelembe veszi az ember aktuális képességszintjének megítélését, a megismerési igényét, valamint azt is, hogy az AI mennyire biztos a saját előrejelzésében. Ezek alapján többféle interakciós stratégia közül választ: megjeleníthet teljes ajánlást, adhat részleges magyarázatot, vagy akár teljesen vissza is tarthatja a választ. A rendszer úgy tanulja meg kiválasztani a megfelelő stratégiát, hogy az a kitűzött célt – legyen az azonnali pontosság vagy hosszabb távú tanulás – a lehető legjobban szolgálja.
Jobb eredmények és hatékonyabb ember–AI együttműködés
A módszer értékelésére a kutatók valós egészségügyi adatok alapján modellezett döntési feladatot dolgoztak ki. A résztvevők különböző egészségügyi problémákkal és célokkal rendelkező fiktív betegek rövid leírásait kapták meg, majd ki kellett választaniuk a legmegfelelőbb mozgásformát vagy edzésprogramot – például pilatest vagy súlyzós edzést.
A két online kísérletben 316, illetve 964 résztvevő vett részt. A vizsgálatok elején mindenki elvégzett egy alapfelmérést, amely a feladatban meglévő kezdeti tudását mérte fel, emellett kérdőív segítségével meghatározták a megismerési igény szintjét is.
Ezután a résztvevők különböző feltételek mellett hoztak döntéseket: egyes esetekben a megerősítéses tanulás a döntések pontosságára optimalizált, máskor a hosszú távú tanulást támogatta, míg összehasonlításként hagyományos, nem adaptív AI-rendszereket is alkalmaztak, amelyek minden esetben ajánlást és magyarázatot adtak.
Mindkét kísérletben azok a résztvevők, akik a pontosságra optimalizált megerősítéses tanulási rendszert használták, szignifikánsan jobb döntési eredményeket értek el, mint azok, akik nem adaptív AI-támogatást kaptak. Sok esetben olyan együttműködés alakult ki ember és AI között, amelyben a páros teljesítménye meghaladta mind az önálló ember, mind az önálló AI eredményességét.
A kutatók szerint eredményeik fontos tanulságokkal szolgálnak a mesterséges intelligencia szabályozása szempontjából is. Számos szabályozási keretrendszer – köztük az Európai Unió AI Act rendelete – abból az implicit feltételezésből indul ki, hogy egy emberi döntéshozó bevonása elegendő az algoritmusok hibáinak mérsékléséhez.
Buçinca és Gajos kutatása azonban azt mutatja, hogy ha az ember és az AI közötti együttműködést nem tervezik meg tudatosan, akkor az emberi felügyelet önmagában nem garantálja a jobb döntéseket. Véleményük szerint a megerősítéses tanulás gyakorlati eszközt kínálhat olyan támogatási stratégiák kidolgozására, amelyek egyszerre javítják a döntések pontosságát és fejlesztik az emberi készségeket.
„Tanulmányunk azt mutatja, hogy a pszichológiai szükségletek nem megfoghatatlan tényezők, amelyek kívül esnek a számítástechnikusok látókörén, hanem modellezhetők, és optimalizálási algoritmusaink célfüggvényeibe is beépíthetők” – mondta Gajos. „Más szóval, mérnökként képesek vagyunk az emberi jóllét optimalizálására is.”
Az emberközpontú mesterséges intelligencia új kutatóközpontja
A kutatás a Harvard új kezdeményezésének, a Center for Human-driven AI Research and Methods (CHARM) kutatási programjához kapcsolódik. A központ különböző tudományterületek szakembereit fogja össze annak érdekében, hogy olyan mesterségesintelligencia-rendszereket fejlesszenek, amelyek az emberi értékeket szolgálják, nem csupán a feladatok automatizálását.
A CHARM keretében Gajos, Buçinca és munkatársaik az úgynevezett „munkavállaló-központú AI” fejlesztésére összpontosítanak. Céljuk olyan rendszerek létrehozása, amelyek nemcsak a jelenben segítik az embereket munkájuk hatékonyabb végzésében, hanem hosszú távon is támogatják szakmai kompetenciájukat, önállóságukat és a munkájukban megtalált értelmet.
