Sok szó esik arról, mi mindenre képesek a mesterségesintelligencia-megoldások – arról talán kevesebb, hogy ezeknek a képességeknek a kifejlesztése milyen infrastruktúrát igényel, mekkora költséggel jár. Az MI-nél alkalmazott infrastrukturális alapelvek azonban a hagyományos munkaterheléseknél is jól alkalmazhatók.
◼︎ MI fejlesztések – milyen alapon?
A mesterséges intelligenciára épülő megoldások (különösen a nagy nyelvi modellek) létrehozása nem egyszerű és nem olcsó mulatság. Az infrastruktúra oldaláról három fő komponenst lehet megnevezni, ami nélkül nincs MI sem: számítási kapacitás; nagy mennyiségű adat; és az adatokat befogadó tárhely, mondja Horváth Varga János, a Magyar Telekom mesterséges intelligencia központjának vezetője. A tanítandó mesterséges intelligencia modell mérete és komplexitása, valamint a felhasznált adatmennyiség persze nagymértékben befolyásolja a szükséges infrastruktúra paramétereit. (Arról nem is beszélve, hogy mindez csak az alap, hiszen az adatok összegyűjtése, tisztítása, a modell betanítása és javítása sok időt és szakértelmet kíván, amelyek értelemszerűen tovább növelik a költségeket.)
Mindenből különleges kell
Az egyik legkritikusabb kérdés a számítási kapacitás. Gépi tanuló algoritmusok taníthatók a hagyományos szerverekben alkalmazott CPU-kon is, de igazán jó teljesítményt a párhuzamos feldolgozásra optimalizált processzorok kínálnak. Ilyenek például a grafikus processzorok (GPU-k), amelyekben a több ezer core egymással párhuzamosan végzi a számításokat, ami nagyságrendekkel gyorsítja fel a modellek betanítását. A GPU-k koronázott királya jelenleg az Nvidia, amely klasszikus GPU-kat (például a GeForce RTX-et) vagy az MI-és adatintenzív feladatokra fejlesztett egységeket (A100, H100 típusúakat) kínál – igen jó pénzért.
Ugyancsak az MI-feladatokra specializált hardver a Google által fejlesztett Cloud TPU (Tensor Processing Unit), amely mátrixelven működik. Az adatbetöltést, a számítást és az adatkiírást is erre a feladatra optimalizálták – igazából csak a neurális hálózatokon végzett gépi tanításra alkalmas, de azt igen gyorsan végzi. A Cloud TPU önmagában nem vásárolható meg, a Google Cloudban érhető el mint szolgáltatás.
A betanításhoz használt adatok mennyisége és az azokhoz való gyors hozzáférés is kulcsfontosságú. Nagyobb modellek esetében petabájtos nagyságrendekről beszélünk, amelynek valahol helyet kell találni. Kerülhetnek az adatok a felhőbe is: Google Cloud TPU-kon tanul a modell és a Google Cloud Storage biztosít korlátlan tárhelyet az adatoknak. De megoldható „földi” (saját vagy bérelt) adatközpontban is a dolog: ilyenkor az adatok nagy méretű és nagy teljesítményű tárolórendszereken helyezkednek el, ahonnan az óriási adatmennyiségek kezelésére fejlesztett megoldásokkal, például a Hadoop Distributed File Systemen (HDFS-en) nyerik ki őket.
A saját többnyire drágább
A mesterséges intelligencia tanítására kialakított adatközpontot persze extrém igénybevételre tervezik. „Ilyenre kevés cégnek van szüksége, de a »hétköznapinak« számító feladatokat sem lehet akármilyen infrastruktúrára bízni, amennyiben hatékony működést vár a vállalat”, folytatja Olejnyik Zsanett, a Magyar Telekom szenior portfóliómenedzsere. Az MI esetében alkalmazott megfontolások más feladatoknál is jól jönnek.
A saját adatközpont egykor kényszerűség volt, hiszen nem álltak rendelkezésre azok a hálózati technológiák, amelyekkel a távolból is igénybe lehetett volna venni a szükséges erőforrásokat. A kényszer aztán megszokássá vált, és a legtöbb vállalat (vagyis leginkább azok vezetői) akkor érezték biztonságban működésüket és adataikat, ha saját adatközpontot tartottak fenn, abba saját szervereket, tárolókat és hálózati eszközöket vettek, és mindezt saját szakembereikkel üzemeltették.
Ahogy azonban egyre gyorsabban fejlődik az informatika, és egyre összetettebbé válnak az alkalmazások, a saját adatközpont úgy válik egyre nagyobb teherré több szempontból is. Az eszközök beszerzése nagymértékű egyszeri befektetést igényel; a méretezést pedig nehéz megoldani, hiszen nem könnyű megjósolni a jövőbeni kapacitásigényeket. Az eredmény az alul- vagy túlméretezett infrastruktúra: előbbi nem szolgálja ki az üzleti igényeket, utóbbiban pedig csak áll a pénz. Ráadásul az informatikai eszközök az adatközpontok kiépítési költségeinek csak egy részét teszik ki. A megbízható működés, az üzletfolytonosság biztosítása érdekében szükség van a kiszolgáló berendezésekre: a szünetmentes tápegységekre, a hűtésre, oltórendszerre, nem beszélve a fizikai biztonságról.
Mindezeken túl felmerül a munkaerő kérdése is. Mindenféle informatikusból hiány van, az infrastruktúra üzemeltetése pedig nem az a terület, ahova a frissen végzett informatikusok többsége vágyik. Jó szakemberek nélkül viszont a legmodernebb adatközpont is csak kockázati tényező.
Rugalmas lehetőségek
A fent részletezett nehézségekkel szinte minden vállalat szembesül, így egyre több cég vállalja fel, hogy saját adatközpontja helyett (vagy éppen annak kiegészítéseként) külső szolgáltatótól veszi igénybe az infrastruktúrát. A modern adatközpontokkal szemben támasztott követelményeknek egy profi létesítmény sokkal nagyobb eséllyel felel meg, mint az, amit egy vállalat saját szűkös erőforrásaiból létrehozhat és üzemeltethet.
Ennek egy része pusztán a méretgazdaságosságból fakad, mondja Olejnyik Zsanett. Egy nagy szolgáltatói adatközpont több ügyfelet szolgál ki, így a kiszolgáló berendezések (fizikai biztonság, hűtés, áramellátás) költségei is többfelé oszlanak. Mivel a szolgáltatónak az adatközpont a fő tevékenysége, így a beruházásoknál sem szorul háttérbe az infrastruktúra folyamatos fejlesztése.
Lényeges szempont ugyanakkor a szakértelem megléte is. Az erre a tevékenységre specializálódott adatközpont sikeresebben tudja magához vonzani az infrastruktúra üzemeltetéséhez magas szinten értő szakembereket. A jó szakemberek és a fejlesztési források együttese pedig lehetővé teszi, hogy az adatközpont olyan minőségű szolgáltatásokat kínáljon, amelyeket egy vállalat saját erőből nem tudna megteremteni. „Adatközpontunkban elektromos áram rendelkezésre állása és temperált hőmérséklet garantálása esetén »ötkilences«, 99,999 százalékos szolgáltatási szinteket biztosítunk, ami már a legmagasabb igényeket is kielégíti”, hoz erre egy példát a Magyar Telekom szakembere.
Mindezt akár úgy is, hogy az ügyfélnek nem kell lemondani saját eszközeiről. Aki akarja, természetesen a teljes infrastruktúrát is igénybe veheti a Telekomtól, szerverekkel, hálózati eszközökkel együtt. Ha valaki több kontrollt akarna megőrizni, beköltöztetheti adatközpontját a szolgáltató telephelyére, ahol továbbra is a saját szakemberei üzemeltetik a rendszereket. Minden mást, ami már nem az informatikához tartozik (hűtést, áramot, egyebeket), a szolgáltató bocsát a rendelkezésére – sokkal jobb költséghatékonysággal, mintha magának kellene megoldania.
„Nem kell mesterségesintelligencia-rendszereket tanítania és használnia egy szervezetnek, hogy jól kihasználhassa egy magas színvonalú, professzionális szinten üzemeltetett adatközpont előnyeit. A hétköznapi üzleti feladatok futtatása is lehet olyan fontos, hogy jó választás legyen a hoszting”, teszi hozzá végül Olejnyik Zsanett.
