A generatív mesterséges intelligencia (MI) szinte minden iparágat átalakít, lassabban vagy gyorsabban. A nagy nyelvi modellek (LLM-ek) forradalmasították a természetes nyelvi feldolgozást, lehetővé tették a párbeszédes rendszerek megjelenését és elterjedését és ezeken keresztül az automatizált tartalomgenerálást.
◼︎ Milyen mély a nyúl ürege?
Az egészségügyben az LLM-eket a gyógyszerkutatásban, valamint a személyre szabott fizikai és mentális kezelési javaslatok és ajánlások elkészítéséhez használják, a kreatív iparágban a generatív mesterséges intelligencia képeket, videókat, zenét és tárgy-dizájnt generálhat, az emberi kreativitás határait feszegetve. A pénzügyi területen a kockázatértékelésben, a csalások felderítésében és az algoritmikus kereskedésben nyújt segítséget az okos szoftver.
Rekord, rekord hátán
A ChatGPT-t először 2022. november végén tették elérhetővé, és decemberig mintegy 266 millió látogatást regisztráltak a szolgáltatás oldalán. Az első 5 napban meglett az 1 millió aktív felhasználó, ez akkor bármely másik alkalmazást tekintve rekord elfogadottsági arányt jelentett. A Similarweb elemző cég szerint 2023 áprilisára az oldal elérte az 1,76 milliárd látogatást. A történelem során még soha egyetlen szoftvert sem fogadtak el ilyen gyorsan és lelkesen az emberek, minden iparágban, részlegen és szakmában. (Lehet, hogy a jelenséghez hozzájárult, hogy a Microsoft 10 milliárd dollárt fektetett be az OpenAI-ba, a ChatGPT-t „gyártó” cégbe, és Bill Gates a ChatGPT publikus megjelenését az internettel azonos jelentőségűnek nyilvánította. Mindkét körülmény gyakorlatilag a teljes világsajtóban megjelent. – A szerk.)
A vállalatok az összes felsorolt előny és motiváló lehetőség ellenére világszerte képtelenek a generatív mesterséges intelligencia nagyszabású, biztonságos és ellenőrzött bevezetésére, mivel nincsenek felkészülve az ezzel járó kihívások kezelésére. A potenciális adatszivárgás következményei óriásiak, és az adatvédelemmel kapcsolatos feladatok „nagy hirtelen” valóban halaszthatatlanná váltak. Az innováció, a biztonságos adatfelhasználás és kezelés biztosítása, felgyorsítása nélkül ugyanis ebből a helyzetből nincs kiút. Csekély vigaszt jelenthet az a tény, hogy talán valóban nem látszott előre egyetlen kristálygömbben sem a versenypiaci túlélés új szabálykönyve, mely szerint egyik napról a másikra kell majd egy semmiből előbukkant felhőszolgáltatásra bízni a legérzékenyebb vállalati adatokat. A felhők már csak ilyenek, látszólag a semmiből keletkeznek, kiszámíthatatlanul, és gyorsan…
Vágyak és valóság a vállalati szférában
A generatív mesterséges intelligencia egyéni munkakörökre vetített hasznossága magasan felülírja a munkavállalókban felmerülő biztonsági aggályokat, még akkor is, ha a vállalatok egyértelmű irányelvekkel, tiltásokkal akadályozzák a technológia használatát. Így arra a kérdésre, hogy miképp akadályozható meg az adatszivárgás, egyszerű a válasz: sehogy.
Kiberbiztonságról csak a realizmus talaján érdemes beszélni, és az biztosra vehető, hogy az alkalmazottak továbbra is használni fogják a generatív MI-eszközöket, függetlenül az adatvédelmi aggályoktól. A Samsung technológiai óriásvállalat például nemrég arról számolt be, hogy a személyzet a ChatGPT-t használta a műveletek optimalizálására és prezentációk készítésére, aminek a következtében a Samsung üzleti titkai a ChatGPT szervereire kerültek.
| Ezzel a 3 lépéssel készítsük fel a szervezetet az MI-korszakra
– Ismerni kell az MI-szolgáltatások használati térképét, átfogóan és alaposan fel kell mérni a szervezet jelenlegi és potenciális generatív MI-használatát. Ebbe már a kezdetekkor érdemes bevonni az az IT, a HR, a jogi, az üzemeltetési és bármely más, az MI-t esetleg használó részleget, valamint az MI-csapatokat, az adatvédelmi és biztonsági szakértőket. – Dokumentálni kell az összes módot, ahogy az MI-t használják (vagy használhatnák), például: keresés, összegzés, chatbotok, belső adatelemzés, valamint a jelenleg alkalmazott, jóváhagyott és jóváhagyatlan vagy egyenesen tiltott MI-eszközök. Listázzunk minden olyan harmadik féltől származó, vagy beágyazott MI-funkciót használó rendszert, melyre a vállalat támaszkodik. – Azonosítani kell az alkalmazások potenciális adatkockázatait. Ilyenek lehetnek: a bizalmas információk és üzleti titkok felfedése, a biztonsági sebezhetőségek, az adatvédelmi problémák, az elfogultság lehetősége, a félretájékoztatás lehetősége, illetve az alkalmazottakra vagy az ügyfelekre gyakorolt negatív hatások. Értékeljük és rangsoroljuk a kockázatokat, határozzuk meg és rangsoroljuk a kockázatcsökkentési stratégiákat, majd folyamatosan ellenőrizzük azok hatékonyságát. |
Legyenek az ilyen incidensek bármilyen riasztóak a vállalat számára, mégsem az a jó megoldás, ha megakadályozzuk az alkalmazottakat abban, hogy kihasználják a generatív MI által kínált hatékonyságot. A Fishbowl szerint a ChatGPT-t munkájuk során felhasználó alkalmazottak 70 százaléka nem kommunikálta az MI használatának tényét a vezetőség felé. A Cyberhaven hasonló jelentése szerint a munkavállalók 11 százaléka helyezett el bizalmas vállalati információkat az LLM-ek szerverein (sima promptok formájában). A munkavállalók saját alternatív eszközkészletet, VPN-eket és alternatív generatív MI-eszközöket használnak fel arra, hogy megkerüljék a vállalati hálózati tiltásokat, amelyek blokkolják a termelékenységnövelő trükkre használt eszközökhöz való hozzáférést. Muszáj mindenkinek szembenézni azzal, hogy az adatvédelem a big data rendszerekben gyakorlatilag esetlegessé vált.
A generatív MI- és LLM-szolgáltatók általában a szerződéses jogi garanciákra (felhasználási feltételekre) támaszkodnak, hogy biztosítsák ügyfeleiket arról, hogy nem élnek vissza a generatív MI adatbázisaiba kerülő adatokkal. Kritikus esetben ugyanakkor a szolgáltatókkal szembeni pereskedés költséges, bizonytalan és lassú lehet.
Számos cselekmény maradhat (valószínűleg marad is) felderítetlen, mivel a kiszivárgott információ felhasználását nehéz detektálni, hát még visszakövetni a forráshoz.
Összpontosítás az adatvédelemre
Adatvédelmi incidensek biztosan lesznek. A szükségtelen adatszivárgást megelőző adatkezelés és hozzáférés-ellenőrzés mellett hibabiztos megoldások is szükségesek, amelyek megakadályozzák, hogy a nem védett adatok a szervezeten kívüli generatív MI-eszközök elé kerüljenek (a nem védett adatok az ember számára érthető formátumok, például egyszerű szöveg vagy képek). Érdemes partneri viszonyt kialakítani olyan generatív MI-vállalatokkal, melyek lehetővé teszik, hogy a cég megőrizze a sima szöveges adatainak tulajdonjogát.
Nem lehet eléggé hangsúlyozni, hogy az alkalmazottak biztonságtudatossági szintje kulcsfontosságú. Muszáj befektetni az oktatásukba és képzésükbe, és érdemes arra ösztönözni őket, hogy ismerkedjenek meg a generatív MI-vel kapcsolatos fogalmakkal, és (a vállalat által engedélyezett) eszközökkel, valamint a legjobb gyakorlatokkal. A cél olyan kultúra kialakítása, amely elfogadja az MI-t, és tisztában van a használat lehetséges következményeivel, ugyanakkor védelmet nyújt a vele járó kockázatokkal szemben.
