Az IBM bemutatta a Granite 4.0-t, legújabb nyílt forrású nagy nyelvi modellcsaládját, amely a transzformer és a Mamba architektúrák hibrid ötvözésével egyesíti a hatékonyságot és a teljesítményt.
A 114 éves múlttal rendelkező technológiai cég újra a figyelem középpontjába került: a Granite 4.0 nemcsak a harmadik féltől származó benchmarkokban teljesít jól, hanem vállalati felhasználásra is csábító lehetőségeket kínál. Nyílt forráskódú, Apache 2.0 licenc alatt érhető el, így szabadon felhasználható és módosítható kereskedelmi célokra is.
A szakma egy része máris a kínai Qwen-modellek nyugati megfelelőjeként emlegeti („Western Qwen”), mivel az IBM ezzel a lépéssel újra versenyképessé tette az Egyesült Államokat az egyre erősödő kínai nyílt súlyú LLM-ekkel szemben. Ez különösen szimbolikus, mert míg a Meta a Llama 4 családdal csalódást okozott és új stratégiát keres, addig az IBM éppen most lendült támadásba.
Hibrid architektúra: transzformer + Mamba
A Granite 4.0 újdonsága, hogy a transzformer „mindent mindennel összehasonlító” megközelítését ötvözi a 2023-ban bemutatott Mamba lineárisan skálázódó architektúrájával. Az előbbi előnye a kontextus pontos megértése, az utóbbié pedig a memóriahatékonyság és a hosszú dokumentumok kezelése. A kettő kombinációja több mint 70 százalékkal csökkentheti a GPU-memória igényeket, miközben megőrzi a magas teljesítményt.
Az új modellek – a 32 milliárd paraméteres Granite-4.0-H-Smalltól a 3B paraméteres Micro változatig – a Stanford és a Berkeley mérései szerint az egyik legjobb nyílt súlyú teljesítményt hozzák utasításkövetés és funkcióhívás terén. Különösen erősek a retrieval-augmented generation (RAG) feladatokban, amelyek nagy adatbázisok lekérdezését és összefoglalását igénylik.
IBM hangsúlyozza: a Granite nemcsak gyorsabb és olcsóbb, hanem biztonságosabb is. Az ISO/IEC 42001:2023 szabványnak való megfelelésével a Granite az első olyan nyílt modellcsalád, amely hivatalos AI governance tanúsítással rendelkezik. Ráadásul bug bounty programmal, kriptográfiai aláírással és jogi védelemmel (indemnification) is igyekeznek garantálni a vállalati ügyfelek biztonságát.
Elérhetőség és jövőkép
A Granite 4.0 modellek elérhetők a Hugging Face-en, az IBM watsonx.ai platformján és partnereken keresztül (Dell, Docker Hub, Kaggle, NVIDIA, Replicate stb.), és hamarosan a Microsoft Azure és az AWS SageMaker kínálatába is bekerülnek. Az év végéig további modellek várhatók, köztük a „Thinking” változat, amely kifejezetten fejlettebb érvelési képességekre lesz optimalizálva.
Az IBM Granite 4.0 megjelenése egyszerre technológiai és geopolitikai üzenet: a nyugati vállalatoknak van alternatívájuk a kínai Qwen-modellekkel szemben. Ez különösen fontos lehet olyan cégeknek, amelyek nyílt súlyú modelleket keresnek, de tartanak a kínai megoldások politikai kockázataitól.
