NVIDIA otvára architektúru Vera Rubin pre škálovanie globálnej AI infraštruktúry
NVIDIA dosiahla významné pokroky v rozvoji infraštruktúry umelej inteligencie (AI) svojím najnovším oznámením na globálnom summite Open Compute Project (OCP). Spoločnosť predstavila nové partnerstvá a príspevky zamerané na vytvorenie spoločného základu pre infraštruktúru novej generácie AI, čo predstavuje kľúčový krok k globálnej škálovateľnosti.
Jadrom úsilia NVIDIA je architektúra Vera Rubin, ktorá bola navrhnutá tak, aby podporovala rastúce požiadavky na AI pracovné zaťaženia. Ako AI továrne naďalej rastú z megawattov na gigawatty v spotrebe energie, ich výstavba vyžaduje viac než len pokročilé výpočty – vyžaduje to aj otvorené štandardy pre efektívnu a spoľahlivú infraštruktúru.
OCP Global Summit poskytol NVIDIA platformu na spoluprácu s lídrami v odvetví a na prispievanie kľúčovými návrhmi do projektu Open Compute prostredníctvom svojej architektúry MGX. Tento krok umožňuje staviteľom systémov vyvíjať infraštruktúru tovární na AI novej generácii na spoločnom základe, čím sa zjednodušuje proces budovania veľkých AI systémov.
Príspevky NVIDIA pokrývajú rôzne aspekty vývoja AI infraštruktúry, vrátane rackovej architektúry, návrhu elektrickej siete a softvérových komponentov. Spoločnosť dosiahla významné pokroky v rozvoji otvorených štandardov pre AI továrne, publikujúc nové špecifikácie, ktoré vytvárajú jednotný plán pre návrh zariadení novej generácie – od energetickej architektúry cez chladiacu infraštruktúru až po fyzické usporiadanie.
Špecifikácia Open Data Center v0.7 definuje komplexný rámec na navrhovanie zariadení tovární na AI, ktorý poskytuje spoločný základ pre odvetvie, na ktorom môže stavať. Táto špecifikácia je výsledkom spolupráce medzi NVIDIA, AMD, Google a Meta, čo zdôrazňuje rastúci význam otvorených štandardov pri rozvoji infraštruktúry AI.
Okrem toho NVIDIA uviedla na trh nové open-source softvérové komponenty pre svoju platformu DSX AI Factory, ktorá uplatňuje extrémne princípy spolunávrhu na zjednotenie výpočtovej techniky, sietí, napájania, chladenia, zariadení a softvéru. Tieto komponenty umožňujú poskytovateľom cloudu a softvérovým partnerom integrovať schopnosti AI tovární priamo do svojich multi-tenant platforiem, čím zefektívňujú proces budovania veľkých AI systémov.
NVIDIA Config Manager je jedným z komponentov, ktorý automatizuje konfigurácie prepínačov vo veľkom rozsahu, čo umožňuje zákazníkom nasadzovať, validovať a udržiavať konzistentné AI továrenské sieťové štruktúry s minimálnym manuálnym zásahom. Cluster Readiness Engine pomáha eliminovať nákladné pády úloh tým, že zaťažuje GPU klastry pomocou reálnych simulácií záťaže, čím zabezpečuje zdravie hardvéru pred začiatkom tréningu.
Príspevky NVIDIA zahŕňajú aj vývoj komplexnej špecifikácie dizajnu v mierke racku pre jej architektúru MGX. Táto špecifikácia rozširuje otvorenú architektúru pre AI továrne o funkcie ako slepé kvapalinové chladenie v mierke racku, interoperabilnú infraštruktúru prepojenia v rackovej mierke a kvapalinou chladený zberník 5 000A navrhnutý pre výkonnejšie AI systémy.
Aktualizovaná špecifikácia MGX 1.2 ďalej rozširuje modularitu zavedením konfigurovateľných I/O slotov, bezventilátorových kvapalinou chladených výpočtových zásobníkov, štandardizovaných napájacích a chladiacich rozhraní a spoločnej infraštruktúry, ktorá umožňuje ekosystémovým partnerom budovať interoperabilné zrýchlené výpočtové platformy. Táto architektúra podporuje nasadenie do racku až do 250kW a zároveň zjednodušuje servisovateľnosť, nasadenie a opätovné využitie infraštruktúry.
Špecifikácia dizajnu CPU racku Vera od NVIDIA rozširuje otvorenú architektúru MGX nad rámec zrýchleného výpočtu a poskytuje platformu špeciálne vytvorenú pre rastúcu éru agentickej AI. Rack procesorov NVIDIA Vera je navrhnutý tak, aby podporoval volanie nástrojov, orchestráciu a sandboxové vykonávanie, čo umožňuje AI agentom interagovať s aplikáciami, dátami a službami v reálnom čase.
Rack Vera CPU zdieľa rovnaké princípy dizajnu v mierke racku ako architektúra MGX, spájajúc výpočtovú techniku, sieťovanie, napájanie a chladenie do spoločnej modulárnej platformy. Tento prístup umožňuje partnerom nasadzovať špecializovanú infraštruktúru a zároveň profitovať zo spoločného ekosystému, zjednodušenej integrácie a konzistentného základu pre továrne na umelú inteligenciu novej generácie.
Visionbay predstavil plány na K-1, novú generáciu AI továrenskú platformu navrhnutú okolo 800 VDC architektúry a postavenú s ohľadom na budúce nasadenia NVIDIA Vera Rubin. Projekt kombinuje referenčnú architektúru NVIDIA 800 VDC s energetickými a tepelnými technológiami od Vertivu, čím vytvára škálovateľný základ pre infraštruktúru AI s vysokou hustotou.
Prijatím architektúry NVIDIA 800 VDC K-1 rieši rastúcu výzvu odvetvia dodávať dostatok energie zrýchleným výpočtovým systémom, ktoré poháňajú AI pracovnú záťaž novej generácie. Tradičná nízkonapäťová distribúcia energie sa stáva čoraz ťažšie škálovateľnou, vyžaduje viac medených, káblových a zariadení na konverziu energie.
Dizajn odráža systémovú filozofiu tovární NVIDIA AI, kde sa napájanie, chladenie a výpočty spájajú spoločne. S podporou kvapalinou chladenej infraštruktúry, škálovateľnou distribúciou energie a budúcimi nasadeniami triedy Vera Rubin K-1 ukazuje, ako môžu ekosystémoví partneri preložiť architektúru AI továrne NVIDIA na nasaditeľnú infraštruktúru navrhnutú pre ďalšiu generáciu zrýchlených výpočtov.
Meta a NVIDIA oznámili spoluprácu na podporu otvorených AI sietí zavedením inovácií Spectrum-X Ethernet, SuperNIC a Spectrum-6. Partnerstvo kombinuje skúsenosti Meta s prevádzkou AI infraštruktúry na hyperškále so sieťovou technológiou NVIDIA, čo umožňuje agentickým AI fabrikám škálovať nad 100 000 GPU s menším počtom úrovní prepínačov a nižšími nákladmi na infraštruktúru.
Toto oznámenie predstavuje významný krok vo vývoji architektúry a operačného plánu, ktorý môžu prijať aj ďalší prevádzkovatelia AI infraštruktúry. Táto spolupráca pomôže premeniť skúsenosti z náročných výrobných záťaží na škálovateľnejšie, odolnejšie a efektívnejšie AI továrne.
NVIDIA a Cisco oznámili plány na štandard Ultra-Dense Small Form Factor Pluggable (USFP), ktorý poskytuje nový formát optického pluggable transceiverového modulu navrhnutý na škálovanie AI tkanív novej generácie pri zlepšovaní šírky pásma a energetickej efektívnosti. USFP poskytne štvornásobnú hustotu šírky pásma oproti tradičným 200Gb/s-per-lane pluggovateľným optikám.
Výsledkom je možnosť pripojiť viac výpočtových zdrojov bez pridávania sieťových vrstiev, čo môže zvýšiť latenciu, spotrebu energie a zložitosť. NVIDIA a Cisco spolupracujú s TE Connectivity a Amphenol na klietkach, konektoroch a moduloch, aby posunuli USFP prostredníctvom komunitného úsilia.
Google oznámil podporu Falcon Transport na budúcich NVIDIA ConnectX-10 SuperNIC a BlueField DPU, čo pomôže zlepšiť efektivitu siete pre rozsiahlu AI infraštruktúru. Spolupráca kombinuje hardvérovú akceleráciu NVIDIA so softvérom DOCA na implementáciu Falconu a rozšírenie siete NVIDIA na prenos dátových centier Google.
Falcon je transportný protokol navrhnutý na spoľahlivé doručovanie dát cez Ethernet siete distribuovaním prevádzky cez cesty, prispôsobením sa preťaženiu, obnovou stratených paketov a ochranou spojení. To pomáha pracovným záťažiam lepšie využívať dostupnú šírku pásma a udržiavať predvídateľný výkon, keď sa ethernetové štruktúry škálujú.