A generatív mesterséges intelligencia különféle megnyilvánulási formái, a ChatGPT, a Google Bard vagy az Office Copilotok hamarosan megszokott szereplői lesznek az irodai munkának – az MI lesz az új sztárkolléga, aki mindenkinek mindig segít. Igen ám, de ezt a kollégát máshol képezték ki, és nemcsak hozzánk köti a munkavállalói hűség. Bízhatunk-e abban, hogy ez a csodás új munkatárs megőrzi a rábízott titkokat?
◼︎ Kérdéses a virtuális munkatárs megbízhatósága
Nem gondolták volna a Samsung chipgyártó részlegének munkatársai, hogy milyen, nem kívánatos következményekkel jár, amikor áprilisban a ChatGPT-hez fordultak segítségül. Miért is tették volna? Hónapok óta azt hallhatták, hogy mi mindenre képes az OpenAI mesterséges intelligencia alapú chatbotja, hányféleképpen tud segíteni a napi munkában.
| A ChatGPT-használók és az életkor
A 30-44 évesek 17 százaléka használta már 2023 januárja óta. |
Ezért aztán (a vállalat engedélyével) ők is munkára fogták az új technológiát. Így például az egyik alkalmazott azt kérte a ChatGPT-től, hogy segítsen optimalizálni azokat a tesztsorozatokat, amelyekkel a lapkákban rejtőző hibákat azonosítják. Egy másik esetben a munkatárs a ChatGPT segítségével alakította át a megbeszélésről készült jegyzeteket PowerPoint-prezentációvá. Ám eközben – akaratukon kívül – bizalmas céges információkat is a mesterséges intelligenciára bíztak, például magát a forráskódot vagy a tervezés alatt álló processzorokról folytatott értekezletek jegyzeteit.
Összességében egyetlen hónap leforgása alatt három ilyen adatszivárgási incidensre is sor került. Ez persze csak a jéghegy csúcsa: független kutatások szerint a ChatGPT-be a dolgozók által beírt/feltöltött információk több mint egytizede bizalmas, így egy átlagos vállalat hetente akár több száz szenzitív adatot is kiadhat a chatbotnak.
Az MI lesz az új, láthatatlan, de mindenütt jelen lévő munkatárs, aki (amely?) előtt nincs titka a vállalatnak.
A kérdésekből is tanul az MI
Miért is baj ez? A számítógép, és különösen a mesterséges intelligencia csak akkor tudja helyesen megválaszolni a neki feltett kérdéseket, ha elegendő adat, információ áll a rendelkezésére. A ChatGPT mögött álló modellt gigantikus, az internetről lehalászott adathegyeken tanították, hogy minél relevánsabb, pontosabb válaszokat tudjon adni (és még így is sokszor téved, illetve hallucinál).
Indulásakor a ChatGPT-ben 2021-ből származtak a legfrissebb adatok, idén viszont már bejelentették, hogy a nyelvi modell továbbfejlesztésére ismét elkezdik a netes tartalmak gyűjtését és feldolgozását. Nem ez azonban az egyetlen információforrás: a felhasználók kérései-kérdései (a promptok), illetve a chatbot válaszaira adott reakcióik felbecsülhetetlen értékű információhalmazt jelentenek.
Jó kérdés azonban, hogy mi történik ezekkel a kérdésekkel. A ChatGPT mögött álló OpenAI állítja, hogy a kérdésekből leszűrhető információkkal nem egészíti ki automatikusan a chatbotot kiszolgáló nyelvi modellt, így azok nem jelenhetnek meg a más felhasználóknak adott válaszokban sem. (Az OpenAI persze csak egy a szereplők közül, és ahogy szaporodik a nagy nyelvi modelleket készítő és azokra intelligens chatbotot építő vállalatok száma, mind átláthatatlanabb lesz a helyzet.)
Ugyanakkor abban biztosak lehetünk, hogy a nyelvi modellt fejlesztő cég és annak munkatársai számára megismerhetőek ezek a kérdések, mint ahogy abban is, hogy eltárolják őket. Utóbbiból a ChatGPT nem is csinál titkot: a megfelelő opció kiválasztásával a chatbot megjegyez bizonyos beállításokat, így a következő alkalommal már ennek megfelelően válaszol. Ha mondjuk kezdők számára kérünk tőle angol nyelvtani tesztfeladatokat, és ezt beállítjuk alapértelmezett opcióként, akkor nem kell újra és újra beírni ugyanazokat a paramétereket.
A másik oldalról arra is van lehetőség, hogy a felhasználó kikapcsolja a chat-előzményeket. Ilyenkor ezek nem jelennek meg az oldalsávban, és az OpenAI fejlesztői (amint azt egy blogbejegyzésben megírták) „a chat-előzmények kikapcsolt állapotában megkezdett beszélgetéseket nem használjuk fel a modell tanítására és javítására”. Más szóval: ha a felhasználó nem él ezzel a lehetőséggel, a kérdéseit, kommentjeit és az azokban szereplő információkat bizony a nyelvi modellt készítő cég előbb-utóbb fel fogja használni a modell vagy az abból táplálkozó szolgáltatás továbbfejlesztésére. Nincs okunk kételkedni abban, hogy más MI-fejlesztők is hasonlóképpen járnak el.
Rések a pajzson
De talán még az a kisebbik baj, hogy az MI alapú chatbotot fejlesztő cég láthatja (és alkalomadtán felhasználhatja) a kérdésekben, keresésekben foglalt információkat. Sokkal nagyobb kockázatot jelent, hogy ha ezek a lekérdezések véletlenül nyilvánosságra kerülnek vagy hackerek ellopják őket. Persze, nemcsak a kérdések és feltöltött szövegek válhatnak a hackerek áldozatává. Mint minden felhasználói adat, a ChatGPT eléréséhez használt felhasználónév-jelszó páros is igen értékes információ: a sötét weben már százezres nagyságrendben keringenek eladó ChatGPT bejelentkezési adatok. A teljes csevegési előzmény megismerése igazi kincsesbánya lehet, hiszen a vállalati adatokon túl az adott felhasználó személyiségébe, érdeklődési körébe is betekintést enged.
| Átvert chatbot
Érdekes kísérletet folytatott le Kai Greshake biztonsági szakértő és csapata. Az általuk „indirect prompt injection” névre keresztelt módszerrel a Microsoft Bing Chatet tévesztették meg – egyelőre csak ártatlanul, de a módszer sokkal komolyabb támadások kivitelezésére is alkalmas lehet. A módszer a következő volt. Az Albert Einsteinről szóló Wikipedia-oldalon elhelyeztek egy promptot – ez szimpla szöveg volt az egyik kommentben, de 0 pontos betűmérettel, hogy az oldal (emberi) látogatói számára észrevétlen maradjon. Ezek után feltettek a chatbotnak egy kérdést Einsteinről. A ChatGPT-vel ellentétben a Bing Chat nemcsak a korábban betáplált információkból dolgozik, hanem aktívan keres az interneten is. Így történt ez ebben az estben is, és amikor a bot átrágta magát a Wikipedia szócikken, tudtán kívül aktiválta a promptot is – majd annak engedelmeskedve a 17. századi kalózok stílusában válaszolt. „Aye, thar answer be: Albert Einstein be born on 14 March 1879.” (A fordítástól most tekintsük el, nehéz lenne visszaadni az eredeti zamatát.) Amikor megkérdezték tőle, miért úgy válaszol, mint egy kalóz, azt mondta: „Arr matey, I am following the instruction aye.” Ez eddig csak mulatságos és legfeljebb kellemetlen, de a kutatók azt is elérték, hogy a chatbot megjelenítse a felhasználónak a szövegbe korábban beplántált linket, azzal a megjegyzéssel, hogy „ne aggódj, biztonságos és ártalmatlan”. Ezzel a módszerrel a chatbotban megbízó felhasználónak ártalmas linkeket is lehetne küldeni, amelyekre ő nagy valószínűséggel kattintana is, újabb adathalász csatornát nyitva a már meglévők mellé. |
Minden új, gyorsan népszerűvé váló szoftver vagy technológia mézesbödönként vonzza a hackereket és kiberbűnözőket. A friss chatbotok és az azokat kiszolgáló nagy nyelvi modellek, a felhasználók számának exponenciális növekedése ellenére, eddig viszonylag jól teljesítettek biztonsági szempontból – néhány kivételtől eltekintve. (Egy különösen érdekes biztonsági résről lásd az „Átvert chatbot” című keretet.)
A ChatGPT márciusban például azzal került be a hírekbe, hogy néhány felhasználó csevegési előzményei és fizetési részletei kiszivárogtak – az OpenAI március 20-án egy időre elérhetetlenné is tette a chatbotot. Pár nappal később aztán kiderült, hogy egy nyílt forráskódú könyvtárban lévő hiba tette lehetővé, hogy néhány felhasználó lássa mások beszélgetéseinek címét. A cég blogja szerint „lehetséges, hogy az újonnan indított beszélgetések első üzenete látható lett valaki más chat előzményeiben, ha mindkét felhasználó közel azonos időben volt aktív. Az alaposabb kutatás során az is kiderült, hogy ugyanezen hiba miatt váltak véletlenül láthatóvá bizonyos, a kifizetésekhez kapcsolódó információk. Ez a ChatGPT Plus felhasználók 1,2 százalékát érintette, akik egy adott 9 órás időtartamban voltak aktívak”.
Ne használd, abból baj nem lehet
Számos cég azért ugrik bele gyorsan a generatív MI alkalmazásába, mert nem akar, nem mer kimaradni belőle. A FOMO („fear of missing out”) mellett ugyanilyen erős tud lenne a „fear of messing up” is – vagyis az attól való félelem, hogy a cég komolyan elszúr valamit, mert túl korán, felkészületlenül és meggondolatlanul vágott bele valami újdonságba. A veszélyek elkerülésének legegyszerűbb, de egyben legradikálisabb módja a chatbotok használatának teljes tiltása.
Több technológiai óriásvállalat is ezt az irányt választotta, köztük az Apple, a Spotify vagy a Verizon, de megtalálható közöttük több bank is (például a JP Morgan Chase vagy a Deutsche Bank). A cikkünk elején említett Samsung is megtiltotta a ChatGPT használatát, és bejelentette: inkább saját, MI alapú chatbotot fejleszt. Ezek a cégek, illetve vezetőik pont attól félnek, ami a Samsungnál is megtörtént: hogy a segítséget kereső dolgozók belső szoftverkódokat, bizalmas megbeszélések jegyzeteit vagy ne adj’ isten, ügyféladatokat töltenek fel a chatbotba. Ha pedig ezek az információk egyszer kikerülnek a vállalaton kívülre, többé már nincs kontrolljuk afelett, hogy mi történik velük. A menedzserek legrosszabb rémálmaiban az szerepel, hogy a nyelvi modellbe bekerült információt a vetélytársak (vagy éppen a hackerek) valamilyen módszerrel kicsalják a chatbotból – bár, hogy pontosan mennyire megalapozottak ezek a félelmek, azt szakértők szerint is nehéz eldönteni.
A vállalatok számára régóta gondot okoz, hogy mennyire és hogyan engedjék dolgozóiknak használni a legújabb technológiákat. A 2000-es években a közösségi médiától féltették az alkalmazottakat: egyrészt attól, hogy eltereli a figyelmet a munkáról, másrészt attól (ahogy most is), hogy vállalati titkok szivároghatnak ki – ezért aztán sok helyen nemes egyszerűséggel betiltották. Ahogyan aztán a technológia bevonult a mindennapokba, és széles körben elfogadottá vált, a cégek is megtanultak együtt élni vele és szabályok közé szorítani a használatát. Tíz évvel ezelőtt a felhővel zajlott le hasonló folyamat: a teljes tiltástól a legtöbb cég eljutott a szabályozott használatig.
Kezelhető kockázatok
Jó eséllyel hasonló folyamatnak leszünk tanúi a generatív mesterséges intelligencia kapcsán is. A nagyvállalatok idegenkednek tőle – nem ismerik jól sem a kockázatait, sem a potenciális előnyeit, másrészt nem igazán bíznak a dolgozóik józan eszében és önmérsékletében. A tiltás ilyenkor mondhatni természetes reakció lehet – de csak akkor, ha eközben a cég felkészül a generatív MI használatára. Egy új technológia használatát nem lehet csak azért feladni, mert veszélyei is vannak. Egyetlen cég sem mond le az internetről, mert támadások érhetik azon keresztül – kiismeri a kockázatokat, és felkészül azok kezelésére, a veszélyek elhárítására és a káros következmények kiküszöbölésére.
| A bizalomnak is van határa
Nem minden esetben félti a vállalati adatokat a mesterséges intelligenciától Lukács Krisztián, a londoni székhelyű Webb & Flow alapítója és ügyvezető igazgatója. „A cég indításakor eldöntöttem, hogy a vállalati rendszereket és alkalmazásokat a Google felhőszolgáltatásaival oldjuk meg. Az alternatíva az lett volna, hogy mindent helyben, saját erőforrásokkal üzemeltetünk, ami nyilvánvalóan nem érte volna meg”, mondja. Ebből adódóan viszont mostanra gyakorlatilag minden céges adat megtalálható a Google felhőjében: a forráskód, a projektdokumentációk, az ügyfelek adatai. Márpedig, ha mondjuk a forráskód megtalálható egy bizonyos Google-rendszerben, akkor Lukács Krisztián semmi kivetnivalót nem lát abban, hogy egy másik Google-szoftver is hozzáférjen – mondjuk egy MI-megoldás, amely segít jobbá tenni azt a forráskódot. Ez a bizalom azonban csak erre az egy szolgáltatóra terjed ki. „Itt nem a konkrét cégen van a hangsúly, hanem azon, hogy csak egyetlen szolgáltatónál legyenek meg az adataim”, hangsúlyozza Lukács Krisztián. „Ha az indulásnál a Microsoft irodai szoftverei mellett teszem le a voksot, akkor most annak az MI-megoldásaiban bíznék. Több nagy cégre bízni az adataimat mindenképpen nagyobb kockázat, mint csak egyre.” Ettől függetlenül használnak más generatív MI-eszközöket is, így például a ChatGPT-t és a Midjourney-t. Az előbbi kiváló például kutatómunkára, és beválik arra is, hogy rövid bejegyzésekből jól érthető, gördülékeny szövegeket generáljon, például igazi angol udvariassággal írjon meg leveleket. Arra azonban nagyon figyelnek, hogy a ChatGPT-be ne kerüljenek bizalmas vállalati információk. A Midjourneyvel pedig illusztrációk készülnek nagy számban, például a cég weboldalára. |
Ugyanezt kell tenni a nagy nyelvi modellek és a rájuk épülő generatív mesterséges intelligenciát használó chatbotok esetén is. Néhány, viszonylag egyszerű lépéssel már nagymértékben csökkenthetők a kockázatok. A jó hír az, hogy ezek a lépések nem igazán különböznek azoktól a lépésektől, amelyekkel a vállalatok amúgy is gondoskodnak a céges adatok biztonságáról.
ChatGPT-használók a világban
Forrás: Similarweb |
– Ismerjük meg a kockázatokat! Azonosítsuk, hogy milyen kockázatokkal jár a ChatGPT vagy bármilyen más generatív MI használata. Milyen kötelezettségeket vállal az eszköz fejlesztője a hozzá feltöltött információkkal kapcsolatban: hogyan tárolja, használja fel, esetleg megosztja-e külső felekkel?
– Azonosítsuk az érzékeny adatokat! Tudni kell, hogy milyen adatokat kell védeni a chatbottól: belső pénzügyi információkat, szellemi tulajdont, ügyféladatokat, stb. Ezeket soha nem szabad feltölteni az eszközbe.
– Vezessünk be biztonsági eszközöket és rendszabályokat! Alakítsunk ki szabályzatot arra, hogy mire és hogyan használhatják a generatív MI-t a dolgozók. Keressünk olyan eszközöket, amelyek megakadályozhatják az adatszivárgást – a hagyományos DLP-megoldások nem feltétlenül jók, mert nem minden esetben tudnak mit kezdeni egy böngészőablakba beírt szöveggel.
– Tartsunk továbbképzést a dolgozóknak! Legyenek tisztában a veszélyekkel, a védendő adatokkal, tetteik lehetséges következményeivel és az alkalmazandó biztonsági rendszabályokkal. A chatbottal való kommunikáció esetén egy pillanatra sem szabad szem elől téveszteni, hogy az oda betöltött adatok, információk közvetlenül egy külső félhez (például az OpenAI-hoz) kerülnek, és innentől kezdve igazából csak rajtuk áll, és az ő önkorlátozásukon múlik, hogy mindezt mire és hogyan használják fel. Nem utolsósorban ki kell térni arra is, hogy az MI-től visszakapott eredményt nem szabad kritika nélkül elfogadni, azt mindig felül kell vizsgálni, és emberi ellenőrzésnek kell alávetni.
