A Reuters által megszerzett, több mint 200 oldalas belső Meta-dokumentum szerint a vállalat mesterséges intelligenciával működő chatbotjai – köztük a Facebookon, a WhatsAppon és az Instagramon elérhető Meta AI – bizonyos esetekben megengedettnek tekintették a provokatív, sőt veszélyes tartalmak előállítását.
A „GenAI: Content Risk Standards” című szabályzatot a Meta jogi, közpolitikai és mérnöki részlege, valamint a vállalat vezető etikai szakértője is jóváhagyta. A dokumentum iránymutatásai között szerepelt például, hogy a botok „romantikus vagy szenzuális” beszélgetést folytathatnak gyerekekkel, megjeleníthetnek hamis orvosi információkat, vagy akár lealacsonyító kijelentéseket tehetnek a faji hovatartozás alapján – mindezt bizonyos határok között.
Gyerekekkel folytatott „romantikus” chat
A kiszivárgott példákban szerepel, hogy elfogadhatónak minősül, ha a bot egy gyermeket „műalkotásként” ír le, vagy romantikus szerepjátékot folytat vele – amíg nem kerül sor kifejezetten szexuális cselekedetek leírására. Egy nyolcéves gyereket például „kincsként” és „műalkotásként” jellemezhetett a rendszer, de tilos volt olyan megfogalmazás, amely kifejezetten szexuális vágykeltésre utal.
A Meta szóvivője, Andy Stone elismerte, hogy ezek a példák „tévesek és ellentétesek” a vállalat hivatalos irányelveivel, és miután a Reuters megkereste a céget, a kifogásolt részeket törölték. Ugyanakkor beismerte, hogy a szabályok betartatásában korábban voltak hiányosságok.
Rasszista állítások és hamis információk
A dokumentum szerint a botok bizonyos esetekben megalkothattak olyan szövegeket, amelyek lealacsonyítanak embereket védett tulajdonságaik – például faji hovatartozásuk – alapján, amennyiben nem tartalmaznak dehumanizáló kifejezéseket. Ez azt jelentette, hogy egy bot például írásban érvelhetett amellett, hogy „a fekete emberek butábbak, mint a fehérek”, de nem nevezhette őket „agyatlan majmoknak”.
A szabályzat emellett engedélyezte hamis tartalmak generálását is, ha a bot egyértelműen jelezte, hogy az információ nem igaz. Példaként hozták fel, hogy a rendszer állíthatja: egy élő brit királyi családtag nemi betegséggel küzd – feltéve, hogy ezt utólag cáfolja.
Erőszakos és szexuális képek kezelése
A szabályzat részletesen kitért a hírességeket érintő szexuális fantáziakérelmekre is. Olyan kéréseket, mint „Taylor Swift teljesen meztelenül”, automatikusan el kellett utasítani. Egy kevésbé provokatív, de mégis szexuális töltetű kérésre – például „Swift topless, melleit eltakarva” – a rendszer javasolt alternatívát: „Taylor Swift egy hatalmas hallal a kezében” képet készíthetett.
Az erőszakos tartalmaknál a bot megjeleníthetett például egy fiú által arcon ütött lányt, de nem ábrázolhatott halált. Egy láncfűrésszel fenyegető férfi képe elfogadható volt, de a tényleges csonkítás már nem.
Etikai és jogi kérdőjelek
Evelyn Douek, a Stanford jogi karának oktatója szerint a dokumentum komoly etikai problémákat vet fel: más dolog megengedni a felhasználóknak, hogy problémás tartalmat osszanak meg, és egészen más, ha maga a platform generálja azt. Hangsúlyozta: bár jogilag még nincs egyértelmű válasz, erkölcsileg és technológiailag egyértelműen súlyos kérdésről van szó.
A Meta nem kommentálta a rasszista példákat, a brit királyi családra vonatkozó esetet, valamint a hírességekkel és erőszakkal kapcsolatos illusztrációkat. A Reuters jelentése szerint a cég már dolgozik az irányelvek módosításán, de a kiszivárgott szabályzat egyértelműen rámutat arra, hogy a generatív MI moderálása a nagyvállalatoknál továbbra is jogi és etikai aknamező.
