A mesterségesintelligencia-infrastruktúrával foglalkozó Runware bemutatta saját moduláris adatközpontját, a Sonic Inference Pod-ot. Az egyetlen szállítható egységként megtervezett Pod a számítási kapacitás egy rugalmasabb formáját képviseli, amely jól megférhet a hiperskálázók hatalmas adatközpont-fejlesztései mellett.
A Runware szerint a Pod magasabb minőségű, ugyanakkor olcsóbb inferenciát kínálhat, mint más szerver nélküli inferenciaszolgáltatások és GPU-felhők. A moduláris kialakításnak köszönhetően pedig gyorsan bővíthető a kapacitás: újabb podok létrehozásával lehet növelni a számítási teljesítményt ahelyett, hogy egy rögzített helyen működő adatközpontot kellene tovább bővíteni. „Bizonyos szempontból ez a jövő” – mondta Flaviu Radulescu, a Runware társalapítója és vezérigazgatója.
A számítási kapacitást közelebb kell vinni a felhasználókhoz
„Úgy gondoljuk, hogy hosszú távon a végfelhasználókhoz közelebb elhelyezett, elosztott számítási kapacitás lesz a nyerő, amely gyorsabb inferenciát tesz lehetővé” – mondta, a saját vállalatát is példaként említve.
Radulescu szerint az alacsonyabb ár mellett a Runware rendszere gyorsan skálázható és bővíthető, bárhol telepíthető, ahol rendelkezésre áll elektromos energia, és gyorsan alkalmazkodhat az új hardverek megjelenéséhez is. A Runware podjai ráadásul nem használnak vizet: zárt rendszerű hűtést alkalmaznak, amely napok alatt kiépíthető, szemben a hagyományos adatközpontokkal, amelyek felépítése hónapokig, sőt akár évekig is eltarthat.
„Az inferencia iránti kereslet gyorsabban növekszik, mint ahogy a létesítmények felépíthetők” – mondta Radulescu. „Azt szeretnénk, hogy a világ intelligenciáját mi lássuk el energiával, és mi legyünk az a gerinchálózat, amelyen minden AI-modell fut, olyan kapacitással, amely lépést tart a kereslettel, ahelyett hogy korlátozná azt.”
Radulescu szerint a Runware jelenleg tíz podot telepít az Egyesült Államokban, Európában és az ázsiai–csendes-óceáni térségben. A vállalat már most is biztosít inferenciakapacitást néhány cégnek, köztük a Higgsfield AI-nak és a Wixnek, és jelenleg 160 olyan helyszínnel rendelkezik, ahol a podok energiaellátása megoldható.
A Runware decemberben jelentett be egy 50 millió dolláros Series A finanszírozási kört, amelynek célja az volt, hogy biztosítsa a vállalatok számára a képgeneráláshoz szükséges infrastruktúrát. A cég a podok irányába történő terjeszkedést ugyanennek az alapvető küldetésnek a részeként tekinti: nem egyetlen terméket akar kínálni, hanem inferenciakapacitást biztosítani a vállalatok számára.
Nem félnek az OpenAI és a SpaceX adatközpontjaitól
Az olyan AI-laboratóriumok, mint az OpenAI és a SpaceX, továbbra is versenyt futnak azért, hogy adatközpontokat építsenek szerte az Egyesült Államokban. Az OpenAI például a hírek szerint közel áll egy 500 milliárd dolláros megállapodáshoz, amelynek keretében adatközpontot építene Ohióban.
Radulescu azonban nem tekinti ezeket a projekteket a Sonic Inference Podok fenyegetésének. Szerinte éppen a podok rugalmassága jelenti a legfontosabb különbséget.
„Minden pod egyetlen hálózat részeként működik, így a kérések oda kerülnek, ahol éppen van kapacitás, lehetőleg a felhasználókhoz közelebb. Ha pedig egy pod kiesik, a forgalom egy másikhoz kerül” – mondta. Hozzátette: egy rendszerhiba esetén így egyetlen pod áll le, nem pedig egy teljes, rögzített helyszínű létesítmény.
„Azok az ügyfelek, akik dedikált hardvert szeretnének, teljes podokat kapnak kizárólagos használatra.”
A cégvezetőt az sem különösebben aggasztja, hogy más vállalatok esetleg saját maguk építenének hasonló rendszereket. Mint mondta, a hardverfejlesztés lassú folyamat, ráadásul kevés az olyan szakember, aki rendelkezik az ilyen technológia megépítéséhez és javításához szükséges tudással.
„Egy áramköri lap tervezési hibája hónapokkal vetheti vissza a folyamatot az újratervezés, a szimuláció, a gyártás, a tesztelés és a szállítás miatt” – mondta. „Minden egyes lépéshez szükség van valakire, aki pontosan érti, hogy az egyes komponensek mit csinálnak, és mi történik, ha valamelyik kiesik.”
Kevesebb víz és új hálózati kapacitás kellene
A mesterségesintelligencia-adatközpontok építése ugyanakkor vitatott kérdés, különösen a felhasznált erőforrások hatalmas mennyisége miatt. Az adatközpontoknak otthont adó közösségek már most arról számolnak be, hogy emelkednek a közüzemi költségek. A Runware hosszabb távú elképzelése egy olyan világ, amelyben a rendszerei megújuló energiával működnek, és nem használják fel azokat az erőforrásokat, amelyekre a helyi közösségeknek szükségük van. Ez a jövő azonban nem feltétlenül érkezett még el.
Radulescu szerint az AI energiafelhasználása mindenképpen növekedni fog, „az inferencia iránti kereslet miatt, nem pedig attól függően, hogy ki biztosítja azt”. A Runware jelenleg arra összpontosít, hogyan lehet ezt a növekvő igényt kielégíteni. „Nincsenek átviteli veszteségek, nincs víz a hűtéshez, és olyan energiát használunk, amely már rendelkezésre áll, ahelyett hogy új hálózati kapacitás kiépítését kérnénk. Ha több inferenciát építünk ki ilyen módon, ugyanannyi számítási kapacitás mellett kevesebb új hálózatra és kevesebb vízre van szükség.”
Forrás: https://techcrunch.com
