Az MI mögött álló infrastruktúra annyira erőforrás-igényes, hogy a Schneider Electric szerint ideje lenne átértékelni az adatközpontok építésének módját. A francia gyökerű multinacionális vállalat egy nemrégiben kiadott jelentésében útmutatást adott arra vonatkozóan, hogyan lehetne a jövőbeni adatközpontokat optimalizálni.
A probléma abban rejlik, hogy a mesterséges intelligencia által okozott munkaterhelések gyakran alacsony késleltetésű, nagy sávszélességű hálózatokat igényelnek a hatékony működéshez Ezt sokszor a rackek sűrűbb elhelyezésével oldják meg, végső soron tovább terhelve a meglévő adatközpontok energiaellátási és hűtési rendszereit. Ma már nem ritka, hogy az egyes GPU-k fogyasztása meghaladja a 700 W-ot, a szervereké pedig a 10 kW-ot, és több száz ilyen rendszerre lehet szükség egy nagyméretű nyelvi modell ésszerű időn belüli betanításához.
A Schneider szerint ez már most is meghaladja azt, amit a legtöbb adatközpont 10-20 kW-os rackenkénti teljesítmény mellett kezelni képes. A problémát súlyosbítja, hogy ellentmondás van az MI igényei és a rendszerek optimális működtetése között. A szerverek sűrítése jó az MI-megoldásoknak, mivel csökkenti a hálózati késleltetést és a hálózattal kapcsolatos költségeket, viszont megterheli az adatközpont energetikai infrastruktúráját. Ha viszont kevésbé sűrűn helyezik el a szervereket, akkor ugyan csökken az egyes rackek terhelése, de a lassabb hálózat miatt szűk keresztmetszetek alakulhatnak ki, amelyek negatívan befolyásolják a teljes rendszer teljesítményét. „Ez kicsit olyan, mintha egy 500 lóerős járművet vásárolnánk, amelyhez egy sor gyors szenzor tartozik, azonban a hálózaton keresztül lassan kommunikál. Az autó sebességét a hálózat sebessége fogja korlátozni, ezért nem fogja teljesen kihasználni a motor teljesítményét”, mondja a Schneider Electric.
Akkor hogyan lehet biztonságosan és megbízhatóan megfelelő energiát biztosítani ezekhez a sűrű, több mint 20 kilowattos rackekhez, és hogyan lehet hatékonyan elvezetni a folyamat során keletkező hőt? „Ezek a kihívások nem leküzdhetetlenek, de az üzemeltetőknek a követelmények teljes körű ismeretében kell eljárniuk, nemcsak az IT, hanem a fizikai infrastruktúra, különösen a meglévő adatközpontok tekintetében is”, írják a jelentés szerzői. A dokumentum kiemeli az adatközpontok energiaellátásának, hűtésének, rack-konfigurációjának és szoftvermenedzsmentjének számos olyan változtatását, amelyet az üzemeltetők a széleskörű MI-elfogadás követelményeinek enyhítése érdekében bevezethetnek.
