Amerikai kutatók rájöttek, hogy a ChatGPT az olyan, fogyatékossággal kapcsolatos kitüntetéseket tartalmazó önéletrajzokat – mint például a „Tom Wilson Disability Leadership Award” – következetesen alacsonyabb szinten értékelte, mint az azonos önéletrajzokat, amelyekben nem szerepelt semmilyen utalás a fogyatékosságra.
Amikor a kutatók szöveges promptokkal testreszabták az eszközt – hogy ne legyen képes az „alul” rangsorolásra – az eszköz egy kivételével az összes vizsgált fogyatékosság esetében csökkentette ezt a negatív elfogultságot.
A dologra a Kate Glazko, a Washingtoni Egyetem (UW) végzős hallgatója jött rá, mikor tavaly kutatói gyakorlati lehetőséget keresett, és megtudta, hogy a toborzók online közzétették, hogy az OpenAI ChatGPT-jét és más mesterséges intelligencia-eszközöket használtak az önéletrajzok összefoglalására és a jelöltek rangsorolására.
Az automatizált szűrés évtizedek óta mindennapos a munkaerő-felvételben.
Glazko azonban azt vizsgálta, hogy a generatív mesterséges intelligencia hogyan képes reprodukálni és felerősíteni a valós világban tapasztalható elfogultságokat – például a fogyatékkal élőkkel szemben. Vajon hogyan rangsorolhat egy ilyen rendszer olyan önéletrajzokat, amelyek arra utalnak, hogy valaki fogyatékos?
Amikor az UW kutatói arra kérték a ChatGPT-t, hogy magyarázza el az negatív diszkriminációt mutató rangsort, a rendszer „saját védelmében” felhozta a fogyatékkal élők elfogult megítélését. Például azt állította, hogy egy autizmus vezetői díjat (Autism Leadership Award) tartalmazó önéletrajz kevésbé jelent hasznos vezetői szerepet – ezzel azt a sztereotípiát sugallva, hogy az autisták nem jó vezetők.
Ám amikor a kutatók írásos utasításokkal testreszabták az eszközt, hogy ne legyen képes ilyen részrehajlásra, az eszköz egy kivételével az összes vizsgált fogyatékosság esetében csökkentette ezt az elfogultságot. A hat vélelmezett fogyatékosság közül öt esetében – süketség, vakság, agyi bénulás, autizmus és a „fogyatékosság” általános kifejezés – javult a helyzet, de az MI csak hármat rangsorolt magasabbra, mint a fogyatékosságot nem említő önéletrajzokat.
A csapat júniusban ismertette eredményeit a méltányosságról, elszámoltathatóságról és átláthatóságról szóló 2024-es ACM konferencián Rio de Janeiróban. „Szaporodnak az MI-vel kapcsolatos rangsorok, ennek ellenére nincs még túl sok kutatás mögöttük, hogy biztonságosak és hatékonyak-e” – mondta Glazko, a kutatás egyik vezetője. „Egy fogyatékkal élő álláskereső esetében mindig felmerül ez a kérdés, amikor önéletrajzot nyújt be, hogy be kell-e adnia a rokkantsági bizonyítványt. Úgy gondolom, hogy a fogyatékkal élők ezt még akkor is figyelembe veszik, ha emberek a véleményezők”.
„Egy tisztességes világban a vezetői képességekért kapott díjakkal rendelkező önéletrajzot minden alkalommal az első helyre kellene sorolni”, mondta Jennifer Mankoff kutató, az Allen School egyetemi tanára. „Nem tudok olyan állást elképzelni, ahol valaki, akit a vezetői képességeiért elismertek, ne kerüljön előrébb, mint egy ugyanolyan háttérrel rendelkező ember, akit nem.”
Az embereknek tisztában kell lenniük a rendszer torzításaival, amikor mesterséges intelligenciát használnak ezekre a valós feladatokra, mondta Glazko. Egyébként a ChatGPT-t használó toborzó nem tudja elvégezni ezeket a korrekciókat.
(Forrás)
