Óriási számítási kapacitást igényel a generatív mesterséges intelligenciák betanítása, de az erre szolgáló grafikus processzorokból (GPU-kból) hiány van. Az Amazon saját chip fejlesztésével igyekszik kimászni a csapdából.
Úgy tűnhet, hogy a rendszerint együtt emlegetett tech-óriások közül az Amazon lemarad a generatív mesterséges intelligencia terén folyó versenyben. A ChatGPT-vel nagyot robbantó OpenAI a Microsoft támogatását élvezi (cserébe a redmondiak számos szoftverükbe építik be a technológiát); a Google is előállt saját nyelvi modelljével, a Barddal (és nem mellesleg 300 millió dollárt tolt az OpenAI riválisának számító Anthropicba); és a Meta is megjelentette nagy nyelvi modelljét, a Llama 2-t.
Az Amazon csak áprilisban mutatta be saját nyelvi modelljeinek családját, a Titant és az ehhez kapcsolódó szolgáltatást, a Bedrockot – utóbbi hozzáférést ad az AWS-felhasználóknak a Titanon kívül több nagy nyelvi modellhez olyan fejlesztőktől, mint az Anthropic, a Stability AI vagy az AI21 Labs. Ugyanakkor most gőzerővel fejleszt két egyedi chipet:
az Inferentia és a Trainium segítségével az Amazon Web Serices (AWS) ügyfelei alternatív módon taníthatják saját nyelvi modelljeiket.
A modellek tanításához hatalmas számítási kapacitásra van szükség, az ehhez leginkább megfelelő Nvidia GPU-kból viszont óriási a hiány. Hosszabb távon ezért a saját speciális processzorok megléte – amelyeket az AWS az ügyfelei rendelkezésére is tud bocsátani – kimondott versenyelőny lehet.
Az Amazon felhős üzletága nem most kezdett bele a félvezetők fejlesztésébe. Az első specializált hardvere, a Nitro pont tíz évvel ezelőtt jelent meg, és azóta már minden AWS-szerverben van legalább egy darab – több mint 20 milliót használnak belőle. 2018-ban már saját, Arm alapú szerverchippel, a Gravitonnal jelentkezett, amely az Intel és az AMD x68-os processzorainak jelentett konkurenciát. 2019-ben aztán elkészült az Inferentia első generációja (most már a másodiknál járnak), 2021-ben pedig a Trainium.
A két lapka a gépi tanulás két fázisában jelent segítséget. A Trainium a gépi modellek tanulását támogatja (a neve is a training-re utal) – az AWS állítása szerint ár/érték aránya 50 százalékkal jobb, mint bármi más, ami az Amazon felhőszolgáltatásban elérhető. Az Inferentia a tanulás második fázisában hasznos, amikor a betanított modellt tesztelni kell (inference = következtetés).
Egyelőre azonban az Nvidia meglehetős helyzeti előnyben van a mesterséges intelligencia tanítása terén – 15 éve épül lapkái köré a szoftveres ökoszisztéma, amivel nehéz felvenni a versenyt. (Júliusban az AWS is bemutatott egy MI-hez szánt hardvert, amelyet az Nvidia H100 hajt meg.)
Szakértők ugyanakkor rámutatnak: a felhőben élvezett dominanciáját még saját előnyére tudja fordítani az Amazon. Amikor a nagy felhőszolgáltatók közül kell választani a generatív MI feladatok futtatásához, sokat számít, hogy az ügyfelek már ismerik az AWS megoldásait, annak felhőjében tárolják az adatokat. Ha ezek mellé megfelelően hatékony és gyors szoftver- és hardvereszközöket kapnak saját MI-megoldásaik fejlesztéséhez és betanításához, könnyen az Amazon felé billenhet a mérleg nyelve.
