Az Arm eddig csak tervezte és licencelte a processzorokat, de kedden, egy San Franciscó-i eseményen bemutatta első saját fejlesztésű chipjének példányait, és közölte, hogy „zászlóshajó” ügyfele, a Meta még az idén, nagy léptékben kezdi telepíteni a 136 magos CPU-t.
Az AGI CPU névre keresztelt processzor a brit chiptervező első, Arm márkanév alatt megjelenő adatközponti processzora, amelyet kifejezetten az ágensalapú AI szem előtt tartásával terveztek. Az új hardver jelentős fordulatot jelez a brit chiptervező üzleti modelljében. Bár az Arm számára nem ismeretlen az adatközponti chipek világa, eddig ezekben a termékekben jellemzően a szükséges processzormag IP-t vagy utasításkészlet-architektúrát licencelte a gyártóknak.
A chip Arm Neoverse V3 magjai nem magukat az AI-modelleket fogják futtatni. Ez továbbra is a GPU-k, illetve az egyre nagyobb számban megjelenő csúcskategóriás AI ASIC-ek feladata lesz. Ehelyett az Arm úgy látja, hogy első adatközponti CPU-ja az AI-ügynökök működtetésében kaphat szerepet. Ebben az értelemben a chip közvetlenül az Nvidia önálló Vera CPU-ival és a múlt heti rendezvényen bemutatott rackszintű rendszereivel versenyez majd.
„Úgy gondoljuk, hogy a CPU alapvető szerepet fog játszani az AGI végső megvalósításában” – mondta Mohamed Awad, az Arm felhős AI-ért felelős ügyvezető alelnöke. Miközben az elmúlt években a figyelem oroszlánrésze a GPU-kra irányult, az olyan ágensalapú rendszerek, mint az OpenClaw, ismét ráirányították a fókuszt az általános célú számítási kapacitás fontosságára. Ezeknek a keretrendszereknek CPU-magokra és memóriára van szükségük ahhoz, hogy kódot írjanak és futtassanak, feladatokat automatizáljanak, valamint támogassák a következő generációs modellek tanításához használt megerősítéses tanulást.
Az Arm arra fogad, hogy ezeknek az ágenseknek az elterjedése négyszeresére növeli majd a CPU-k iránti keresletet, és legújabb chipjét úgy pozicionálja, hogy profitáljon ebből a trendből.
AI-ra épített CPU
Az Arm AGI CPU-ja egy 300 wattos komponens, amely 136 darab, legfeljebb 3,7 GHz-en működő (3,2 GHz alapórajelű) Neoverse V3 magot tartalmaz, két lapkára elosztva, amelyeket a TSMC 3 nanométeres gyártástechnológiáján készítenek. A processzor magonként 2 MB L2 cache-sel, valamint 128 MB megosztott rendszerszintű gyorsítótárral (SLC) rendelkezik.
Awad szerint tudatos törekvés volt, hogy ne kerüljenek a lapkába olyan gyorsítók vagy funkciók, amelyek csak növelik a lapkaméretet, miközben nem szolgálják az adott felhasználási célt. „A korábbi generációs CPU-kat úgy építették, hogy olyan szempontokra is figyeltek, mint a régi alkalmazások támogatása” – mondta. „Mi kifejezetten nem akartunk olyasmit hozzáadni, amit ennek az eszköznek a küldetésében nem lehetne száz százalékosan kihasználni.” Hozzátette: „Ez egy tiszta lapról induló tervezés, amelynek célja pontosan ezeknek az igényeknek a kezelése.”
Az Nvidia Verával ellentétben az Arm lemondott a szimultán többszálúságról az ágensekre optimalizált processzorainál. Awad szerint a magonként egy szál kiszámíthatóbb teljesítményskálázódást tesz lehetővé. A CPU-t 12 csatornás DDR5 memória szolgálja ki — feltehetően 6 csatorna jut egy-egy lapkára —, legfeljebb 8800 MT/s memória-sebesség támogatásával. Az összesen 825 GB/s sávszélesség így magonként körülbelül 6 GB/s-ot jelent.
Sok modern CPU-val ellentétben a chip memória- és I/O-funkciói ugyanabba a lapkába vannak integrálva, mint a számítási egységek, a késleltetés minimalizálása érdekében. Emiatt az operációs rendszer minden foglalatot két különálló NUMA-tartományként fog látni. I/O terén a processzor 96 sávnyi PCIe 6.0 kapcsolatot és CXL 3.0 támogatást kínál.
Maximális sűrűség
A Meta, amely már most is nagy számban telepíti az Nvidia Arm-alapú Grace CPU-it, és a vállalat Vera chipjeit is használni tervezi, az Arm első jelentős CPU-vásárlói között lesz. Az ehhez kapcsolódó fejlesztések részeként az Arm azt állítja, hogy két eltérő OCP rackkialakítást validált. Az egyik egy 36 kW-os, léghűtéses rack 30 számítási blade-del, ami rackenként összesen 8160 magot jelent.
A vállalat egy még sűrűbb, 200 kW-os folyadékhűtéses rackkialakítást is validált, amely 42 darab, egyenként nyolccsomópontos szervert tartalmaz, ami összesen 45 696 magot jelent.
Nem csak ágensekhez
A Meta nem az egyetlen ügyfél, amely kész felvásárolni az Arm új processzorait. Korai ügyfélként említik még az OpenAI-t, az SAP-t, a Cerebrast, a Cloudflare-t, az F5-öt, az SK Telecomot és a Rebellions-t is.
Az Arm az AI-ügynökök mellett más felhasználási lehetőségeket is lát a chip számára: például egyedi gyorsítók vezérlőcsomópontjaként, vagy akár általános célú CPU-ként hálózati és tárolási feladatokra. A cég szerint OEM-partnerei, köztük a Lenovo, már dolgoznak is a chipre épülő, 19 hüvelykes rendszereken.
Eddig a vállalati ügyfelek számára meglehetősen korlátozottak voltak a választási lehetőségek az Arm-alapú adatközponti szilícium piacán: a felhőszolgáltatókon kívül lényegében az Ampere Computing volt az egyetlen komoly szereplő.
Az Arm AGI CPU-ja idén érkezik. Hogy valóban ez hozza-e el a szingularitást, az már egészen más kérdés.
Forrás: https://www.theregister.com
