Az Amazon a mesterséges intelligenciát vetette be, hogy az összegezze az oldalon található vásárlói véleményeket. A vállalat szerint a mesterséges intelligencia által elkészített összefoglalók, a legfontosabb elemek kiemelésével időt takarítanak meg a vásárlóknak. A megoldás egy katasztrofális állapotban lévő piacra érkezik, ahol szinte semmi nem az, aminek látszik.
Az Amazon úgy reméli megkönnyíteni az ügyfelek számára a termékválasztást, hogy egy MI-eszközön keresztül szűri át a beérkező véleményeket, összefoglalót készítve belőlük, amivel a vállalat szerint időt és energiát spórolhatnak a látogatók. Az MI-összefoglalók bevezetésére egyelőre az Egyesült Államok néhány államában került sor, de a tapasztalatok alapján várható ennek bővítése is. A lépés logikusnak tűnhet bárki számára, aki még életében soha nem olvasott Amazon termékértékeléseket, és a multi viharos és ellentmondásos – gyakran botrányos – ügyfélkezelési gyakorlatát sem követi a híreken keresztül. Arról, hogy pontosan mire gondolunk, kicsit később.
Vélemény-nagyhatalom
Az Amazon plasztikusan megfogalmazott önképpel rendelkezik, ha az ügyfeleiről van szó: „Megszállottan segítjük az ügyfeleket abban, hogy magabiztosnak érezzék magukat vásárlási döntéseikben – még akkor is, ha az a döntés, hogy nem vásárolnak”, nyilatkozta a vállalat. „Csak a tavalyi évben 125 millió vásárló közel 1,5 milliárd véleményt és értékelést küldött be az Amazon boltjaiba – ez másodpercenként 45 véleményt jelent, így az Amazonon végzett értékelések hihetetlen forrást jelentenek az ügyfelek számára”, vélekedtek.
A vállalat azt is hozzátette, hogy mindez egyben hihetetlenül gazdag forrássá teszi az Amazont a saját nagy nyelvi modelljük szókincsének kialakításához – bár ehhez azért tegyük hozzá, hogy egy tetszőleges nagyságú adatkészlet értékét az adat minősége és nem a mérete határozza meg. Ennek megértéséhez
gondoljunk csak a hipotetikus majomra, amely örökké él, imád gépelni, és adtunk nekik egy klaviatúrát. Előbb-utóbb leírja majd Shakespeare összes művét is egymás után, időrendi sorrendben, de addig azért legyárt majd „némi” szemetet is, a hasznos/haszontalan szövegarány nem lesz kedvező.
Quo vadis felhasználói értékelés?
Az is érdemel némi magyarázatot, hogy miért hasonlítható össze a példabeszéd random majomgépelés a világ legnagyobb webstore-jának értékeléseivel. Az úgynevezett felhasználói értékelések – köszönhetően a vásárlói döntéseket befolyásoló, erőteljes hatásuknak – évtizedek óta célpontjai az illegális, erkölcstelen avagy elvtelen piaci előnyszerzési stratégiáknak, mondhatni ezen a területen tombol a black business. Az Amazon értékeléseit – csakúgy mint a Booking, a Google, a PlayStore, a TripAdvisor vagy a Yelp értékeléseit – gigantikus mértékben mérgezték a régebben trollhadseregek, a közelmúltban botok, legújabban pedig mesterséges intelligencia által tömegesen generált és beküldött hamis vélemények és a megrendelők igénye szerint íródó termék le- vagy felértékelések.
Óriás boltbehemót rózsaszín szemüvegben
Az új összegző-szolgáltatás bevezetésének fogadtatása az Amazon szerint pozitív volt, különösen az olyan egy kattintásos attribútum-értékeléseket tekintve, mint a „Stabilitás”, „Teljesítmény” vagy a „Könnyű használhatóság”, melyek az összefoglalt vásárlói vélemények alatt jelennek meg. Az vállalat, melyet folyamatosan sokat bírálnak üzleti gyakorlatai miatt úgy véli, hogy a mesterséges intelligencia által felturbózott összegző-funkció képes lesz kiküszöbölni a botok és más forrásból érkező hamis vásárlói vélemények okozta károkat.
Az olyan erősen és olyan sokféle komplex eszközzel ostromlott várak esetében, mint amilyenek a nagy méretű online boltok, a fenti vélekedés egészséges szkepszissel is inkább tűnik csodavárásnak, mint valós szcenáriónak.
Ezt hozzátéve, és ráemelve tekintetünket néhány percre az iroda ablakai felett kéklő eget beragyogó, gyönyörű szeptemberi napsütésben lustán úszkáló bárányfelhőkre, természetesen mi is azt reméljük, hogy az Amazonnak lesz igaza. „Üdvözöljük a hiteles véleményeket – legyenek pozitívok vagy negatívak – de szigorúan tiltjuk az olyan hamis véleményeket, amelyek szándékosan félrevezetik az ügyfeleket azáltal, hogy olyan információkat szolgáltatnak, amelyek nem pártatlanok, nem hitelesek vagy nem az adott termékhez vagy szolgáltatáshoz készültek”, tette közzé szigorát az Amazon, és alá is támasztotta a nagy vállalást:
„Továbbra is jelentős erőforrásokat fektetünk be a hamis vélemények proaktív szűrésébe. Ide tartoznak a gépi tanulási modellek, melyek adatpontok ezreit elemzik a kockázatok észlelése érdekében, beleértve a más fiókokkal való kapcsolatokat, a bejelentkezési tevékenységeket, a felülvizsgálati előzményeket és a szokatlan viselkedés egyéb jeleit, valamint olyan speciális szoftver-ügynököket is használunk, melyek kifinomult csalásészlelő eszközöket alkalmaznak az elemzéshez. és megakadályozzák, hogy hamis vélemények jelenjenek meg az üzletünkben. Az új, mesterséges intelligencia által generált értékelések csak az ellenőrzött vásárlásokból származó megbízható értékelési korpuszunkat használják, így biztosítva, hogy az ügyfelek egy pillantással könnyedén azonosíthassák a közösség véleményét.”
Jól hangzik, és akár tényleg sikerülhet is, elvégre a 2023-as kétségtelenül a generatív MI csodáinak éve.
Szép gondolatok, nézzük akkor az eddig történteket
Legyünk most nagyvonalúak, és tekintsünk el az Amazon 2018-as fiaskójától, mikor először nyomták meg az entert egy MI-alkalmazás beindításánál, amivel történetesen egy olyan toborzómotort szabadítottak el, amelyről hamarosan kiderült, hogy nem kedveli a nőket. A „hiba” oka az volt, hogy a modellt a vállalathoz benyújtott önéletrajzok mintáinak megfigyelésével képezték ki a megelőző 10 év adatai alapján, amelyek közül a legtöbb férfiaktól származott, tekintettel a technológiai iparban tapasztalható férfi dominanciára.
Azt a bevezetést akkor 4 év fejlesztőmunka előzte meg azzal a céllal, hogy gépesítsék a csúcstehetségek felkutatását – írta anno a Reuters. A mostani véleményösszegző MI-re bézsnél is halványabban utaló megjegyzés viszont először tavaly év végén hangzott el. Persze ettől még indulhatott korábban is a fejlesztőmunka, vagy készülhetett jól működő új eszköz.
Még több szép gondolat, nézzük akkor a számokat is
A Guardian Money már 2013-ban ipari léptékű hamisvélemény-ipart tárt fel, amelyben a megrendelő vállalatok offshore vállalkozóknak fizettek azért, hogy megvalósítsák azt, amit a magyar jogrendszer szédelgő feldicsérés (avagy reklámszédelgés) vétségének címe alatt ismer 1923 óta (három évig terjedhető fogház és ötszázezer koronáig terjedhető pénzbüntetés), majd fogyasztók megtévesztése címen 1984 óta (1-3 évig terjedő szabadságvesztés, minősítő körülmények függvényében).
A cselekmény már 100 éve is az üzleti tisztesség szabta korlátok egyik fontosabb áthágásának minősült.
A Guardian Money által feltárt hamis vélemények nagy részét akkor még informatikai szakemberek hozták létre az olyan szegénység sújtotta országokban, mint Banglades, India és Indonézia, akik viszonylag alacsony díj ellenében írtak hamis véleményeket a sok -sok ezer álnéven létrehozott accounttal és hamis címmel. Akkor – és ritkábban, de még ma is – sokan a Freelancer szabadúszóknak készült munkaközvetítő oldalon kínálták szolgáltatásaikat a nyugati cégeknek, ahol a résztvevők licitálhatnak a különböző a munkákra. A Guardian Money azután kezdett vizsgálódni, hogy már 2011 végén panaszok érkeztek a fogyasztói vélemények minőségéről.
Akkor ez már a múlté? Korántsem!
A Forbes júniusban írt cikket róla, hogy az USA Szövetségi Kereskedelmi Bizottsága szeretné megrendszabályozni azokat a vállalkozásokat, amelyek pozitív véleményeket vásárolnak és fizetnek azért, hogy elnyomják a negatív visszajelzéseket.
A javasolt törvény értelmében, szabálysértésenként akár 50 000 dolláros bírságot is kiszabhatnának ezekre a vállalatokra, ami jótékony hatást gyakorolhatna a piacra. Amely konkrétan rettenetes állapotban van.
A US PIRG fogyasztóvédelmi csoport szerint az online vélemények 40 százaléka megtévesztő vagy teljesen hamis, idén év elején azt közölték az FTC-vel, hogy az ügyfeleknek „nincs módjuk biztosan meggyőződni róla, hogy mely vélemények hitelesek és melyek nem azok”. A Washington Post azt is kiderítette, hogy az esetenkénti 50 000 dolláros bírság mellett a szövetségi ügynökségnek lehetősége lenne támogatni a hamisítványok által közvetlenül megkárosított fogyasztók kártérítési igényeinek érvényesítését is.
Az új szabályozás ugyanakkor továbbra sem korlátozná az értékeléseket megjelenítő platform-szolgáltatókat, mint például a Yelp, a TripAdvisor, a Google, az Amazon és hosszan folytathatnánk a sort.
Későn ébredők viadala
A dolgot valószínűleg egészen más (rejtélyes) perspektívából néző Világgazdasági Fórum idei közlése szerint az illegitim online vélemények problémája csak a Covid-19 világjárvány idején terjedt el, mindenesetre 2021-ben ezek a manipulációk már 152 milliárd dollárnyi globális kiadást befolyásoltak a gyenge termékekre és szolgáltatásokra irányított vásárlások képében. Ezzel számos alacsony minőséget kínáló cég növelhette hamisan értékeléseit az említett platformokon, és hirdethette ócska termékeit és szolgáltatásait a Facebook, a Google, a Craigslist a Reddit, vagy éppen az Amazon segítségével.
A WEF szerint a hamis vélemények ára 25 centtől 100 dollárig terjed, és egy vállalkozás új értékelésekkel való elárasztása hetekig növelheti annak keresési-találati listákon elért pozícióit és ezen keresztül értékesítési volumenét még akkor is, ha az inkriminált véleményeket hamisként észlelték és törölték. A Google a nyár elején indított pert egy olyan véleménygyárossal szemben, akinek sikerült több mint 350 hamis üzleti profilt létrehoznia és 14 000 hamis véleményt közzétenni a Google kereső, a Google Maps és a YouTube-felületein.
„Nincsenek számottevő következmények”, panaszolta a Washington Postnak Kay Dean, a Fake Review Watch szervezet vezetője. 600 000 dollár. Ennyit kell fizetnie a The Bountiful Company-nak, miután az FTC azzal vádolta meg a céget, hogy „eltérítették” a vásárlói véleményeket az Amazonon. A cég becsapta a vásárlókat, és elhitette velük, hogy újonnan bevezetett étrendkiegészítői több termékértékelést és véleményt kaptak a valóságosnál. Mindezt úgy csinálták, hogy az egyéb, már bevezetett termékeiken hagyott véleményeket újra felhasználták a friss terméklapokon – közölte az FTC.
Hamisvélemény-ipar
Az online hamis véleményipar olyan méreteket öltött, és olyan nagy pénzeket mozgat, hogy már tudományos kutatások is foglalkoznak vele. Az is tökéletesen érthető és üdvös, hogy az Amazon lépett az MI irányába, hiszen a Google mellett talán ezt a nagyvállalatot éri a legtöbb kritika a teljesen elfajult helyzet miatt.
A vállalat rendszereibe ugyanakkor sokáig bele is volt kódolva ez a probléma. 2016 végéig lehetővé tették az eladók számára, hogy termékeiket a visszajelzés fejében egyszerűen odaajándékozzák a felhasználóknak. A cserébe kapott vélemények persze mind „őszinték és elfogulatlanok” voltak, legalábbis a hozzájuk fűzött felelősségkizárások szerint. Akkoriban sok eladó élt a termékajándék lehetőségével, hogy növelje a kapott pozitív vélemények mennyiségét, majd az Amazon algoritmusai feldolgozták a véleményeket, és a termékek keresési láthatósága megnőtt. A vásárlók ezt követően persze gyakrabban vásárolták meg ezeket a termékeket. Az Amazon aztán betiltott minden „ösztönzött véleményt”, és a probléma szépen alámerült a szürke-zónába. A cégek továbbra is kínáltak ösztönzőket, de már nem a hivatalos diszkontrendszer keretein belül, így az Amazon – hivatalosan – egyáltalán nem is értesült a tevékenységről. Amikor erre rájöttek, szigorúan lecsaptak az illegális tevékenységekre a jó hírnevüket és a vásárlók érdekeit védve.
Sajnos a lehetőség egy azóta is folyamatosan növekvő és organikusan fejlődő feketepiaci-ökoszisztémát szült, amely mérgező borostyánként nőtte be a világ legnagyobb online boljának vásárlói visszajelzéseken alapuló minőségindikátor-rendszereit.
A csalásipari gépezet az Amazonon a vélemények és a keresési-rangsorolási rendszerek manipulálására összpontosít, aljas technikák széles skáláját alkalmazva. Az Amazonon ma megjelenő hamis vélemények gyakran „ellenőrzött vásárlásként” jelennek meg, épp úgy, mint a valódi vélemények, anélkül, hogy a vevő és az eladó közötti bármiféle kapcsolatra fény derülne. Ez mindössze annyit jelent, hogy az értékelő valóban az Amazontól vásárolta a terméket, ami az Amazon szemében az eredetiség hiteles mutatója. A valóságban a vásárlást az eladó finanszírozta PayPal, Amazon ajándékutalvány vagy más módszer felhasználásával.
Sötétben bujkáló véleménykufárok
A hamis értékelések támogatására a black hat szolgáltatók automatizált vásárlói fiókokat (vagy botokat) használnak, hogy pozitív véleményeket küldjenek be eladóként működő ügyfeleiknek, és negatívan értékelik azok versenytársait. Látszólag sem a valós vásárlók, sem pedig az Amazon nem tudják, hogy mi folyik a háttérben.
Ugyanez a rendszer lehetetleníti el azokat a becsületes eladókat, akik elszenvedik az őket célzó hamis negatív véleményeket, és a melléjük érkező hamis, de alacsony számértékű pozitív szavazatokat, melyekkel a negatív véleményeknek adnak nagyobb súlyt a csalók. Az eladóknak nincs más választásuk, meg kell próbálniuk nyomon követni a versenytársak viselkedését, mert lehetséges, hogy támadás alatt állnak, ami ellen fel kellene lépniük. Természetesen az ellenlépéseknek, a visszavágásnak is megvannak a maga kockázatai, és azt mindenképpen tapasztalt kommunikációs tanácsadó felügyelete mellett érdemes elvégezni.
Vajon miért tétlenkedett az Amazon az MI megérkeztéig?
Számos belső oka van annak, hogy a jelenlegi helyzet ilyen nehezen volt kezelhető az Amazon számára:
- Nehéz és rendkívül költséges dolog akár csak felmérni az ehhez szükséges nyomozati tevékenységet. A legtöbb törvénytelen cselekmény ma az Amazon rendszerein kívül zajlik.
- Egyelőre szinte lehetetlen visszakeresni a hamis „ellenőrzött véleményekhez” kapcsolódó kereskedői fiókokat az azokat szállító és koordináló harmadik fél „szolgáltatókig”.
- Az Amazon csökkenteni próbálta az emberi felderítő munkatársak létszámát.
- A menedzserek nem voltak felkészülve egy ilyen nehéz probléma megoldására, tekintettel az ilyen típusú nagy projektekre elkülönített erőforrások hiányára.
- A magasabb szintű vezetők nem igazán látták át a probléma hatókörét, vagy megpróbálták azt letolni magukról.
- Az üzleti életben és a jogban is hiányoznak a kimunkált, szabványos és hatékony működési eljárások, melyek a fő okokat tudnák kezelni.
- Végül, a nagyközönség sem ismeri a háttérben zajló folyamatok működését, és még nem érzik eléggé a saját bőrükön, hogy mennyire kitolnak velük az elkövetők.
Szeptemberi fejlemények: letöltendő a véleménybrókereknek
Az Amazon kétségtelenül sokat tett azért, hogy ennyire kellemetlen helyzetbe kerüljön, de a friss fejlemények azért okot adhatnak bizakodásra is. Kínában nemrég két véleménybrókert ítéltek 2,5 évre (3 év próbaidőre felfüggesztve) azért, mert elősegítették a hamis vélemények terjesztését az Amazon boltjában, és ezek az ítéletek már a helyi bűnüldöző szervek nyomozásának és az Amazon által támogatott bűnügyi beterjesztésnek az eredményei.
2021 márciusa és 2022 márciusa között a kínai vádlottak harmadik féltől származó üzenetküldő alkalmazásokat használtak arra, hogy hamis véleményeket reklámozzanak és értékesítsenek a törvénytelenséget megrendelőknek, akik az Amazonon értékesítették a termékeiket.
Az Amazon 2022-ben több mint 200 millió feltételezett hamis véleményt blokkolt az üzletekben, augusztus végéig pedig 147 csaló ellen indítottak jogi lépéseket Kínában, Európában és az Egyesült Államokban. 2023 júniusában a vállalat négy új pert indított olyan csalók ellen, akik megpróbálták félrevezetni az ügyfeleit: a Nice Discount tulajdonosai és üzemeltetői hamis pozitív értékeléseket, hamis visszajelzéseket és egyéb hamis tartalmakat tettek közzé „Terméktesztelő klubjukon” keresztül, a Littlesmm webhely hamis véleményeket árult bűnözőknek, sőt hamis véleménycsomagokat kínáltak az Amazon üzleteihez Ausztráliában, Kanadában és az Egyesült Államokban, 20 és 440 dollár között. A MangoCity tulajdonosai és üzemeltetői 50 és 4000 dollár közötti áron adták a hamis értékeléseket webhelyükön, videocsevegésen és e-mailen keresztül, a Reddit Marketing Pro pedig 99 dollárt kért öt hamis véleményért, míg 6999 dollárt 500 hamis véleményért az általuk ellenőrzött ügyfélfiókokat használva a terjesztéshez.
Jól látszik, hogy milyen jelentős összegek mozdulnak meg ezen a feketepiacon, és valószínűleg minél komolyabb ellenlépéseket tesz az Amazon, az illegális szolgáltatások ára is annál inkább emelkedni fog.
A vállalat életében egyébként nem a hamisvélemény-ipar az egyetlen probléma. Nemrég mi is hosszabb cikkben számoltunk be egy olyan csalásformáról, mely már hosszú évek óta keseríti a Kindle felületére publikáló szerzők életét. Ennek során a valós szerzők neve alatt árulnak a mesterséges intelligencia által írt könyveket élelmes „vállalkozók” az Amazonon. Ez ellen a visszaélés ellen sem túl könnyű küzdeni, érdemes belenézni a cikkbe, ha szeretnénk elkerülni, hogy szellemi termékeink elvesszenek a bűnözői gátlástalanság, a nagyvállalati közöny, és a takaréklángra tekert ügyfélszolgálat Bermuda-háromszögében.
