A mesterséges intelligencia fejlődése új kihívások elé állítja a hálózati infrastruktúrát – a speciális működési módhoz speciális terheléselosztási megoldások is kellenek.
A mesterséges intelligencia nem csak az életünket, hanem az informatikai rendszerek együttműködését is átalakítja. Az egyre fejlettebb MI-modellekhez egyre több GPU-t és TPU-t használnak, ami viszont jelentősen növeli a mozgatni szükséges adatok mennyiségét és szűk keresztmetszetek kialakulásához vezethet.
Az MI jellemzői közé tartozik, hogy nem egyenletes, hanem intenzív és egyszerre nagy mennyiségű, majd hirtelen csökkenő (burst típusú) adatfolyamot generál. A hálózat egyenletes teljesítménye kritikus az ilyen adatfolyamok támogatásához, hiszen egyetlen lassú flow az egész MI-folyamatra hatással lesz. A „hagyományos” hálózatokból megörökölt terheléselosztás képtelen az ilyen jellegű forgalom hatékony kezelésére. További gond, hogy a forgalom valós idejű megfigyelhetőségének hiánya reaktív hibaelhárításhoz vezet, értékes erőforrásokat pazarolva el.
Egyenesen MI-re fejlesztve
A fenti problémákra is megoldást kínál az Arista portfóliója. A gyártó megoldásával megszüntethetők a szűk hálózati keresztmetszetek, maximalizálható a teljesítmény és zökkenőmentes lesz az MI skálázása. Milyen elemekből is áll össze a rendszer?
Az első újdonság a Cluster Load Balancing (CLB). Az Ethernet alapú megoldás, amely támogatja az RDMA-t (Remote Direct Memory Access-t), vagyis azt az eljárást, amikor az egyik rendszer memóriájából közvetlenül lehet adatokat másolni a másik memóriájába. Kifejezetten a nagy sávszélességet igénylő MI-terhelések (beleértve a továbbított és a fogadott forgalmat is) hatékony kezelésére fejlesztették ki. Képes a sávszélesség maximális kihasználására, a „bottleneck” hatás elkerülésére és a Tail Latency (leglassabb válaszidő) csökkentésére, így egyenletes, késleltetésmentes feldolgozást biztosít a teljes hálózaton keresztül.
A valódi optimalizáció azonban valós idejű láthatóságot, intelligens vezérlést és proaktív beavatkozást is igényel. Ezen a ponton jön a képbe az Arista CloudVision UNO. Ez nem más, mint az Arista CloudVisionben elérhető 360°-os hálózatmegfigyelő funkciókészlet. Segítségével felgyorsíthatjuk az előforduló problémák felismerését és azok megoldását.
Holisztikus megoldás
A következő sarkalatos pont, hogy miként lehet költséghatékony és minimális késleltetéssel bíró környezetet létrehozni. Itt segít az Arista Etherlink, amely átfogó, nagyteljesítményű megoldást kínál a holisztikus MI-hálózati igényekhez. Az Arista Etherlink számos, egymással összehangolt elemből áll:
- MI-platformok
Ezek mesterséges intelligenciára optimalizált Arista Ethernet hálózati rendszerek, amelyek lehetővé teszik bármilyen léptékű MI-cluster létrehozását. Lehetnek fix kivitelű vagy moduláris switchek, és a tervezett MI-cluster méretétől függően önállóan vagy MI leaf/spine clusterben is telepíthetők. - AI Software Suite
A bevált Arista EOS operációs rendszer, amely sokrétű szolgáltatáscsomaggal rendelkezik MI-terhelések Etherneten keresztüli optimalizált átviteléhez. Funkciói közé tartozik a dinamikus terheléselosztás, a fejlett torlódáskezelés és a megbízható csomagküldés. - MI-agentek
Koordinációt, vezérlést és vizibilitást nyújtanak a hálózatok és hálózati kártyák között, optimalizálva a teljesítményt és egységes kezelést biztosítva a számítási és hálózati környezetekhez. - AI Observability
Mély betekintést és láthatóságot kínál az MI-terhelések teljesítményébe.
Németh Mónika
