Az OpenAI bemutatta első egyedi fejlesztésű inferenciachipjét, amelyet a Broadcom vállalattal együttműködve tervezett és gyártatott. A Jalapeño névre keresztelt processzort kifejezetten az OpenAI inferenciarendszereinek speciális igényeire optimalizálták. A vállalat közlése szerint a chip fejlesztésében az OpenAI saját mesterségesintelligencia-modelljei is közreműködtek.
Bár a processzor jelenleg még tesztelési fázisban van, az OpenAI szerint az első eredmények azt mutatják, hogy energiahatékonyság tekintetében – vagyis az egy watt fogyasztásra jutó teljesítmény alapján – jelentősen felülmúlja a jelenlegi csúcstechnológiás alternatívákat.
Régi cél: csökkenteni a függőséget az Nvidia GPU-itól
Az OpenAI és a Broadcom együttműködését hivatalosan tavaly októberben jelentették be, azonban a vállalat saját chipfejlesztési terveiről már jóval korábban is iparági találgatások keringtek.
A cél egyértelmű: mérsékelni az OpenAI függőségét az NVIDIA processzoraitól, amelyek jelenleg az AI-iparág legfontosabb hardveres alapját jelentik. Hasonló stratégiát követett korábban a Google és az Amazon Web Services is, amelyek saját, úgynevezett AI-gyorsítókat (AI accelerators) fejlesztettek. Ezek olyan speciális félvezetők, amelyeket kifejezetten a gépi tanulási feladatok gyorsítására terveztek.
Az OpenAI a saját terhelési mintáira optimalizál
Greg Brockman, az OpenAI elnöke a Broadcommal kötött partnerség bejelentését követően a vállalat podcastjában beszélt a chipfejlesztési stratégiáról. „Rendkívül mély ismeretekkel rendelkezünk a saját munkaterheléseinkről” – mondta Brockman. „Azokat a speciális feladatokat kerestük, amelyek jelenleg nem kapnak megfelelő hardveres támogatást, és azt vizsgáltuk, hogyan lehetne olyan megoldást építeni, amely kitolja a lehetőségek határait.”
A Jalapeño az AI-válaszok kiszolgálására készült
A Jalapeñót kifejezetten inferenciára tervezték. Az inferencia az a folyamat, amikor egy már betanított mesterségesintelligencia-modell a felhasználói utasításokra válaszolva futtatja számításait.
Az OpenAI külön kiemelte, hogy a chip rendkívül alacsony üzemeltetési költségekkel képes valós időben működtetni a programozási feladatokra optimalizált modelleket. Valószínű, hogy a számításigényesebb feladatok – például az új modellek előtanítása és betanítása – továbbra is az Nvidia hardverein futnak majd. Ugyanakkor még az inferenciaköltségek viszonylag kis mértékű csökkentése is jelentős javulást hozhat a vállalat nyereségességében.
Az AI-gazdaság kulcsa lehet az inferencia optimalizálása
A jövőben az inferenciarendszerek optimalizálása meghatározó szerepet játszhat a mesterséges intelligencia gazdaságosságában. Az iparági trendek alapján ez az optimalizáció a technológiai infrastruktúra minden szintjén megjelenik majd.
Az OpenAI ma már nemcsak olyan ügynökalapú termékeket fejleszt, mint a Codex, illetve az ezeket működtető modellek, hanem saját adatközpontokat is épít azok kiszolgálására. A célhardverek fejlesztésével a vállalat még mélyebben integrálhatja és optimalizálhatja teljes technológiai ökoszisztémáját.
Az OpenAI a teljes technológiai vertikum feletti kontrollra törekszik
A vállalat közleménye szerint az OpenAI stratégiája jóval túlmutat az AI-modellek fejlesztésén. „Az OpenAI nem csupán élvonalbeli modelleket fejleszt, vagy ezekre épülő termékeket készít. A modellek alatt található infrastruktúrát is maga tervezi: a chiparchitektúrát, az alacsony szintű futtatókörnyezeteket (kerneleket), a memóriarendszereket, a hálózati infrastruktúrát, az ütemezési mechanizmusokat, a telepítési rendszereket és a felhasználói élményt is.”
A vállalat szerint éppen az adja versenyelőnyét, hogy a teljes technológiai ökoszisztémára rálátása és befolyása van. „Mivel az OpenAI a teljes rendszer minden rétegében jelen van, minden egyes szint ugyanazon cél érdekében optimalizálható: hogy modelljeink gyorsabbak, megbízhatóbbak és a felhasználók számára megfizethetőbbek legyenek.”
Forrás: https://techcrunch.com
