A jövőben másképp kommunikál majd a 18 év alatti fiatalokkal a ChatGPT, hogy a minimálisra szorítsa a generatív mesterséges intelligencia káros hatásait, ígérte Sam Altman.
„A tinédzserek esetében a biztonságot fontosabbnak tartjuk a magánélet védelménél és a szabadságnál. Új, nagy hatású technológiáról van szó, és meggyőződésünk, hogy a fiataloknak erőteljes védelemre van szükségük”, írta egy blogbejegyzésben az OpenAI első embere.
A most bejelentett változások elsősorban a fiatalkorúakkal folytatott szexuális és önpusztító témájú beszélgetésekre vonatkoznak. Az új eljárásrendben a ChatGPT-t megtanítják arra, hogy nem bonyolódjon évődő, pajzán beszélgetésekbe a fiatalkorú felhasználókkal és külön védőszabályokat vezetnek be az olyan beszélgetésekre, amelyek az öngyilkosság körül forognak. Ha egy tinédzser felhasználó a ChatGPT segítségével fantáziál az öngyilkosság különféle módozatairól, a rendszer megpróbál kapcsolatba lépni a szüleivel, különösen súlyos esetekben pedig a helyi rendőrséget is értesíti.
Az óvatosság sajnos nagyon is indokolt. Az OpenAI és a Character.AI is pereskedni kényszerül, miután egy-egy felhasználójuk a mesterséges intelligenciával folytatott hosszas beszélgetések után öngyilkosságot követett el.
Természetesen nem lesz könnyű eldönteni egy felhasználóról, hogy nagykorú-e már vagy sem. Az OpenAI olyan megoldást tervez, amely számos jel alapján el tudja dönteni, hogy valaki betöltötte-e már a 18-at; amikor pedig kétség merül fel, akkor inkább a szigorúbb szabályokat fogja alkalmazni. A szülők is sokat tehetnek azért, hogy gyerekük ne beszélgethessen akármiről és akárhogyan a mesterséges intelligenciával. A legmegbízhatóbb módszer az, hogy a gyerek felhasználói fiókját összekapcsolják a sajátjukkal. Így nem csak az lesz egyértelmű, hogy fiatalkorúról van szó, hanem a rendszer szükség esetén közvetlenül is kapcsolatba léphet a szülőkkel, ők pedig beállíthatnak „tiltott időszakokat”, amikor a szolgáltatás elérhetetlen lesz a gyerek számára.
Mindez viszont csak a fiatalkorúakra vonatkozik. Ugyanebben a posztban Altmann azt is hangsúlyozta, hogy az OpenAI összességében nagy szabadságot enged a felnőtteknek abban, hogyan és miről beszélgetnek a ChatGPT-vel.
