Bár a mesterséges intelligencia (MI) hatékonyan növeli a kiberbiztonsági képességeket, a szakértők folyamatosan hangsúlyozzák az emberi felügyelet nélkülözhetetlen szerepét a megfelelő védelmi vonalak kialakításában, és óva intenek a friss MI-technológiába vetett túlzott bizalomtól. Hogy, hogy nem, az óvatosságra intő hangokat messze túlharsogja a hurráoptimista hírverés kakofóniája. Álljunk ellen ennek a zajnak!
◼︎ Sérülékeny implementációk
A gyorsan fejlődő kiberfenyegetésekkel szemben immár kritikátlanul csodaszerként kezelt MI csábítása nőttön nő, miközben szakértők szerint az MI-eszközökre való túlzott támaszkodás veszélyeket hordoz magában. Az MI-megoldások a kiberbiztonság területén is elterjedtek, kevesebb, mint 60 másodperc alatt észlelik a lehetséges anomáliákat, például a zsarolóvírusokat, és így hatékonyabban tudnak fellépni a fenyegetésekkel szemben.
De a szakértők arra is figyelmeztetnek, hogy bár a mesterséges intelligencia által vezérelt megoldások felbecsülhetetlen értékű eszközt jelentenek az online védelem megerősítéséhez, a hype vak követése malignus hatást gyakorolhat a kockázatkezelésre. Az elmúlt években a kritikus infrastruktúrát és a nagy szervezeteket, például bankokat és kórházakat percenként átlagosan 11,5 kibertámadás érte. Az adatszivárgások – köztük a legutóbbi, az AT&T elleni támadás, amelynek során több mint 70 millió ember személyes adatai szivárogtak ki – olyan aggasztó statisztikákat mutatnak, amelyek a jelentős digitális lábnyommal rendelkező iparágakat rákényszerítették új megoldások keresésére.
Az MI annyit ér, mint az adat, amelyen tanult
Az MI-alapú eszközök különösen értékesnek bizonyulnak az olyan ismétlődő feladatokban, mint a nagy adathalmazok vizsgálata. „Az MI azon képessége, hogy hihetetlen sebességgel képes feldolgozni és elemezni hatalmas mennyiségű adatot, átalakítja a védelmi képességeinket. Ez ugyanakkor egyáltalán nem teszi feleslegessé a képzett kiberbiztonsági szakembereket. Ehelyett rávilágít a kiegyensúlyozott megközelítés szükségességére, ahol a mesterséges intelligencia fokozza az emberi döntéshozatal pontosságát és hatékonyságát”, nyilatkozta Aurimas Bakas, az MI-alapú kiberbiztonsági megoldásokat kínáló Cyber Upgrade vezérigazgatója.
A mesterséges intelligencia által végzett analitika az emberi képességeket messze meghaladó érzékenységű, olyan mintákat és anomáliákat képes felismerni, amelyeket egy ember nem lenne képes, de hatékonyságát az emberek által gondosan előválogatott használati példákból álló, a tanuláshoz használt adatok minősége és az emberi operátorok által meghatározott sok egyéb paraméter is korlátozza. Ennek figyelmen kívül hagyása hamis biztonságérzetbe ringathatja a szervezeteket.
Ha nem megfelelően kezelik azokat, az MI-rendszerek figyelmen kívül hagyhatnak olyan árnyalt vagy újonnan megjelenő fenyegetéseket, amelyekkel korábban még nem találkoztak (miképp a rendszereket feltanító szakemberek sem), vagy amelyeket nem határoztak meg, nem paramétereztek megfelelően előre. Ez döntő pont az MI működtetése során, kiemeli egy aktív és rendkívül felkészült fejlesztőcsapat szükségességét, amely a legújabb veszélyekre reagálva időben biztosítja a szükségessé váló frissítéseket. (Az IT-biztonsági megoldásokban sok éve alkalmazott MI nem a most divatos generatív vonulat, hanem a mély tanulásos, neurális hálózatos, emberi megerősítésű mintafelismerés – A szerk.)
A fiatal technológia veszélyei
„Míg az olyan kezdetleges kibervédelmi feladatok, mint a jelszókezelés vagy a vírusirtók bevezetése rábízhatók az automatizálásra, nagy felelőtlenség az MI jelenlegi képességeit az autonóm kibervédelemhez méltónak hirdetni, különösen az érzékeny adatok védelmében”, figyelmeztetett rá Bakas. Az MI-eszközök felhasználásával az MI viselkedésének testreszabását és finomítását is elvégezhetjük, az emberi szakértők meglátásainak felhasználásával.
Ezt hívhatjuk kétrétegű védelmi stratégiának is, ami fontos plusz védelmet adhat egy olyan időszakban, mikor a mesterséges intelligencia önmagában még nem elég kifinomult a biztonság garantálásához. A jövő valószínűleg a teljesen autonóm kibervédelemé, de ennek eléréséhez a mesterséges intelligenciának még előbb jelentős fejlődésen kell keresztülmennie.
Az MI felhasználásának sebezhetőségei
Az Indusface webbiztonsági vállalat adatai szerint az Egyesült Királyságban a jogi vállalkozások közel egyharmada (30%-a) állítja, hogy már alkalmazza a mesterséges intelligenciát, főképp a jogi kutatás, elemzés, átvilágítás, hatékonyság és költségcsökkentés terén. A második helyen az informatikai és távközlési szektor áll, az ebben az ágazatban működő brit vállalkozások 29,5%-a alkalmaz MI-t, főképp hálózatoptimalizálásra, prediktív karbantartásra, az ügyfélszolgálat automatizálására, a biztonságra és az adatelemzésre fókuszálva. A pénzügyi és számviteli ágazatban szintén kulcsszerepet játszik az MI, az e területen működő brit vállalkozások több mint negyede (26%) már alkalmazza a munkahelyi feladatokban. A főbb alkalmazási területek a csalásfelderítés, a hitelkockázat-értékelése, a pénzügyi jelentések elkészítése, az adózás és az ügyfélszolgálat feladatai. A britek a kockázatokkal is tisztában vannak, a Forbes Advisor kutatása szerint tízből hat brit (59%) bevallottan aggódik a mesterséges intelligencia alkalmazása miatt. (Ezekben a statisztikákban és felmérésekben nem megfelelően különböztetik meg a generatív és „hagyományos” MI-t – A szerk.)
A problémát a Securityworld Market szerint az is adja, hogy a tomboló hype közepette idő előtt piacra ömlő PoC- (proof of concept) megoldások komoly kockázatokat rejthetnek az alkalmazásbiztonság és az adatvédelem terén. Az MI olyan kódot ír, amely sebezhető a támadásokkal szemben, mivel csak ritkán követik a biztonságos kódolási gyakorlatokat, és szinte biztos, hogy a legtöbb kód, amelyen az MI-ket feltanították, sebezhető a támadásokkal szemben. A mesterséges intelligencia használata ebből kifolyólag akár egészen súlyos következményekkel is járhat. (Ezért nem is használják az MI-t közvetlen kódírásra. Egyébként a kiadott kódért minden esetben a kiadó humán személy vagy szervezet felel. Hogy ez a felelősség áthárítható-e a generáló MI-szolgáltatásra – szerintünk nem –, a világ jogászai majd eldöntik. – A szerk.)
További kockázatot jelent, ha csak az LLM-eket (nagy nyelvi modelleket) használjuk a saját termékeink adatbeviteli felületeként. Az eddigi gyakorlat szerint korlátozottak voltak azok a bemenetek, amelyeket egy szoftver használata során használhattak, az olyan űrlapmezők, mint a szövegdobozok vagy a legördülő listák meghatározták a szoftverekbe történő adatbevitel módjait. A mesterséges intelligencia használata viszont a promptok megjelenésével járt, ezek olvasása és értelmezése pedig megszüntetheti ezt az eddig megszokott kiszámíthatóságot.
Ez komoly következményekkel járhat, és az OWASP-nál (Open Worldwide Application Security Projectnél) rohamosan gyűlnek az ilyen „prompt-injection” támadások adatai. Erősen javasolt tehát a szoftverfejlesztés területén is arra használni az MI-t, amire még biztonságos: a kód koncepciójának kialakítására és elkészítésére, egyfajta segédeszközként, nem pedig mindent eldöntő szoftverfejlesztőként.
Piacra lépés előtt továbbra is javasolt az eddigi jó gyakorlatok követése, a sebezhetőségi vizsgálat a behatolástesztelés a patching, a webalkalmazás-, és API-védelem (WAAP) implementációk a támadások meghiúsítása érdekében.
