A Neurophos nevű, Bill Gates által támogatott startup egy 56 GHz-en működő, nagyméretű optikai szisztolikus tömböt fejleszt, amely 470 petaFLOPS FP4 számítási teljesítményre képes – optikai tranzisztorokkal.
A „Moore-törvény”, ami nevével ellentétben inkább megfigyelésen alapuló „technológiai jóslás” – és Gordon Moore, az Intel későbbi társalapítójának nevéhez fűződik – 1965-ben azt jósolta, hogy az integrált áramkörökön elhelyezhető tranzisztorok száma (és ezzel a számítógépek számítási teljesítménye) évente megduplázódik, előállítási költségük pedig ezzel arányosan csökken. Az időtartamot Moore tíz évvel később „körülbelül 18-24” hónapra módosította. A 2010-es évekre azonban a félvezetőipar gyakorlatilag elérte a technológia fizikai korlátait (atomközeli mérettartomány), és a törvény elavult. A további teljesítménynövekedés egyre inkább lassul, az ehhez szükséges energiaigény pedig drasztikusan nő, ezért egyes chiptervezők alternatív architektúrákban keresik a kiutat.
A Neurophos azon vállalatok közé tartozik, amelyek megkérdőjelezik a Moore-törvény hagyományos érvényességét, és az analóg számítástechnika régóta ígért, ám eddig nagyrészt kihasználatlan potenciálját próbálják valóra váltani. Az austini székhelyű AI-chip startup állítása szerint egy optikai feldolgozóegységet (OPU) fejleszt, amely elméletben 470 petaFLOPS FP4 / INT4 számítási teljesítményre képes – ez körülbelül tízszerese az Nvidia nemrég bemutatott Rubin GPU-inak –, miközben nagyjából azonos energiafelhasználással működik.
Patrick Bowen, a Neurophos vezérigazgatója elmondta, hogy mindez részben a mikronméretű metamateriális optikai modulátoroknak köszönhető, amelyeket a vállalat az elmúlt években fejlesztett ki. Ezek lényegében fotonikus tranzisztorok. „A szilícium-fotonikai gyárakban ma elérhető optikai tranzisztorok megfelelői óriásiak. Körülbelül 2 milliméter hosszúak. Egyszerűen nem lehet belőlük eleget elhelyezni egy chipen ahhoz, hogy a számítási sűrűség akár csak megközelítse a mai digitális CMOS technológiát” – magyarázta. Bowen szerint a Neurophos optikai tranzisztorai körülbelül 10 000-szer kisebbek. „2025 májusában kaptuk vissza az első szilíciumot, amely demonstrálta, hogy ezt szabványos CMOS gyártási folyamattal is meg lehet valósítani, ami azt jelenti, hogy kompatibilis a meglévő félvezetőgyártó technológiákkal.”
E tranzisztorokra építve a Neurophos az állítása szerint kifejlesztette a tensor core optikai megfelelőjét. „A chipen egyetlen fotonikus tensor core található, amely 1000×1000 feldolgozóelemből áll” – mondta Bowen. Ez jelentősen nagyobb, mint amit a legtöbb AI-gyorsítóban és GPU-ban látunk, ahol a mátrixszorzó egységek jellemzően legfeljebb 256×256 feldolgozóelemet tartalmaznak. Ugyanakkor – szemben az Nvidia GPU-ival, amelyekben tucatnyi vagy akár több száz tensor core található – a Neurophosnak mindössze egyetlen ilyen egységre van szüksége. Bowen szerint az első generációs gyorsító tensor core-ja körülbelül 25 mm²-es.
A retikula-méretű chip fennmaradó része „annak a káosza, ami ahhoz kell, hogy ez az őrült tensor core működni tudjon” – fogalmazott Bowen. Konkrétan: a Neurophosnak hatalmas mennyiségű vektoros feldolgozóegységre és SRAM-ra van szüksége ahhoz, hogy a tensor core folyamatosan elegendő adathoz jusson. Ennek oka, hogy maga a tensor core – és igen, továbbra is csak egyetlen darab van belőle az egész retikula-méretű lapkán – körülbelül 56 GHz-es órajelen működik. Mivel azonban a mátrix–mátrix szorzás optikai úton történik, Bowen szerint a tensor core energiafogyasztása kizárólag a digitális–analóg, illetve analóg–digitális optoelektromos átalakításhoz szükséges teljesítményből adódik.
A Neurophos szerint az első OPU, a Tulkas T100 kódnevű chip, kettős retikula kialakítású lesz, 768 GB HBM memóriával, 470 petaOPS teljesítménnyel, és terhelés alatt 1–2 kilowattos energiafogyasztással. Bár mindez rendkívül lenyűgözően hangzik, fontos megjegyezni, hogy ezek az értékek jelenleg inkább célkitűzések. A chip még aktív fejlesztés alatt áll, a teljes gyártás várhatóan csak 2028 közepén indul. Bowen szerint ekkor sem lesz tömeggyártás: „Ezres darabszámú chipekről beszélünk, nem tízezrekről.”
A Neurophos úgy véli, hogy optikai tensor core-jai az AI-inferencia feladatok széles körét képesek kiszolgálni, ugyanakkor az első chipet elsősorban prefill feldolgozóként kívánják használni. Az LLM-inferencia két szakaszra bontható: egy számításigényes prefill fázisra, ahol a bemeneti tokenek feldolgozása történik, valamint egy memória-sávszélesség által korlátozott fázisra, ahol a kimeneti tokenek generálása zajlik. Az elmúlt évben olyan chiptervezők, mint az Nvidia, különválasztották a prefill és a decode feladatokat, külön GPU-poolokat alkalmazva. Az Nvidia legújabb GPU-generációjában egy dedikált prefill gyorsítót fejlesztett, Rubin CPX néven. Bowen szerint a Tulkas T100 hasonló szerepet tölthetne be. „A jelenlegi elképzelés – amely még változhat – az, hogy egy racknyi, azaz 256 darab saját chipünket párosítanánk például egy NVL576 rackkel” – mondta.
Hosszabb távon Bowen a decode fázist is meg szeretné célozni, ugyanakkor megjegyezte, hogy ehhez több technológiai áttörésre – például együttcsomagolt optikára – lesz szükség, mielőtt a startup készen állna a tokenek generálására. Bár a Tulkas T100 legkorábban 2028-ban kerülhet piacra, Bowen szerint a vállalat már most dolgozik egy proof of concept (PoC) chipen, amelynek célja a beígért számítási és energiahatékonysági mutatók validálása.
Ezen a héten a Neurophos lezárt egy 110 millió dolláros A sorozatú befektetési kört, amelyet a Gates Frontier vezetett, a Microsoft kockázati tőkealapjának és más befektetőknek a részvételével. Bowen szerint ez a forrás biztosítja a PoC fejlesztésének finanszírozását.
Forrás: https://www.theregister.com/
