Generálny riaditeľ NVIDIA Jensen Huang predstavuje AI Factory a otvorené modely na GTC Berlin

·

Tempodrom v Berlíne, miesto s bohatou históriou siahajúcou až k jeho založeniu pri Berlínskom múre v roku 1980, sa premenil na centrum špičkových technológií. Dnes hostí konferenciu NVIDIA GPU Technology Conference (GTC) Berlín, kde sa účastníci stretávajú na hlavnom podujatí: hlavnom prejave Jensena Huanga.

Huang, zakladateľ a generálny riaditeľ NVIDIA, vystúpil s otázkou v hlave: Čo majú spoločné L’Oréal, Revolut, Spotify, Merck, Vodafone, Zara, Porsche, Nestlé a HSBC? Odpoveď nespočíva len v ich európskych koreňoch, ale aj v spolupráci s NVIDIA na AI projektoch.

Tento úvodný prejav prichádza po týždňovej ceste Huanga po Európe, kde sa stretol s rôznymi spoločnosťami a oznámil, že NVIDIA sa zaväzuje takmer 10 miliárd dolárov do technologického ekosystému po celom kontinente. Táto investícia bude použitá na podporu 12 000+ partnerov, ktorí budú spolupracovať s NVIDIA v tejto oblasti.

Huang rámcoval AI ako päťvrstvovú tortu a vysvetlil, ako energia poháňa pokročilé počítače, ktoré sú súčasťou AI továrne. Továreň generuje tokeny a digitálnu inteligenciu z modelov bežiacich na nej, ktoré sú následne integrované do každej aplikácie. Zdôraznil dôležitosť mať infraštruktúru pred vývojom AI modelov.

‘Dlho predtým, než sa objavia AI modely, musí infraštruktúra existovať,’ povedal Huang, pričom vytvoril paralely s tým, že internet vyžadoval sieťovanie a elektrina potrebovala sieť. Táto analógia zdôrazňuje potrebu základných prvkov pri budovaní AI ekosystému.

Aby boli súčasťou tejto AI ekonomiky, firmy nechcú len využívať AI; chcú ju aj produkovať. Huang uviedol, že NVIDIA už začala pracovať na tom, aby sa Európa mohla plne zapojiť do AI ekosystému. Zdôraznil potenciál pre európske spoločnosti nielen využívať, ale aj vytvárať vlastné AI riešenia.

Huang predstavil full-stack AI továreň NVIDIA ako komplexnú platformu na budovanie a prevádzku AI infraštruktúry. To zahŕňa hardvér, systémový softvér, knižnice CUDA-X a modely – všetko nevyhnutné na vytvorenie AI továrne. Rámcoval to ako základ, na ktorom sa Európa môže stať súčasťou globálnej AI ekonomiky.

Predstavil Veru Rubin v plnej produkcii ako významné rozšírenie výpočtovej platformy NVIDIA. Ide nad rámec samotného spracovania veľkých jazykových modelov, aby zvládol celého AI agenta – vrátane jeho schopností uvažovania a rozhodovania. Huang počas svojej prezentácie predstavil aj niekoľko najnovších hardvérových ponúk NVIDIA v rackovom meradle.

Následne Huang oznámil NVIDIA DSX POD, referenčný dizajn pre kompletné AI továrne NVIDIA Vera Rubin postavené partnermi v modulárnych kontajneroch. Táto inovácia umožňuje skrátiť nasadenie na mieste zo šiestich mesiacov na iba 14 dní, keď sú utility pripravené – čo predstavuje významnú transformáciu v svetovom dodávateľskom reťazci.

‘Toto je úplná transformácia svetového dodávateľského reťazca,’ povedal Huang. ‘Toto zmení spôsob, akým ľudia inštalujú a stavajú dátové centrá, a dúfajme, že v dôsledku toho sa zvýši rýchlosť.’ NVIDIA DSX AI Factory Platform tiež ponúka výhody ako zníženie spotreby vody na chladenie až o 100 % a generovanie rovnakého AI výstupu s až o 30 % nižším výkonom.

Huang podrobne rozoberal agentov, vysvetľujúc, že myslia, uvažujú, iterujú a používajú nástroje – čo poháňa spotrebu tokenov, keď sa stávajú užitočnejšími. Agenta rámcoval ako pozostávajúceho z piatich prvkov: modelu, postroja na orchestráciu jeho práce a pamäti, sandboxu izolujúceho postroj, vedomosti a nástroje.

Najdôležitejším aspektom agentov je zabezpečenie ich bezpečnosti. Huang zdôraznil, že keďže autonómni agenti môžu pristupovať k súborom, zdrojom, sieťam a nástrojom, ich oprávnenia by mali byť minimálne a musia byť dôkladne monitorované. Odpoveďou NVIDIA na túto výzvu je nová NVIDIA OpenShell Reference Architecture for Safe AI Agents – full-stack dizajn postavený na NVIDIA OpenShell.

Otvorené modely premieňajú odbornosť na výhodu

Huang predstavil otvorené modely NVIDIA ako východiskové body pre budovanie AI prispôsobených špecifickým potrebám. Tieto priekopnícke, otvorené modely sú dostupné naprieč odvetviami: Nemotron pre jazyk, Cosmos pre svetové základné modely, GR00T pre humanoidnú robotiku, Alpamayo pre autonómne vozidlá, Ising pre kvantovo-klasické výpočty a Earth-2 pre fyzikálnu AI.

NVIDIA poskytuje modely, dáta a skripty na ich reprodukciu. Firmy môžu model posttrénovať na vlastných dátach pre konkrétny prípad použitia – premeniť proprietárne dáta na to, čo Huang nazval “suverénnou inteligenciou”. Tento prístup umožňuje firmám začať s otvoreným modelom ako Nemotron a dosiahnuť superinteligenciu prispôsobením ich špecifickým potrebám.

NVIDIA poskytuje agentom vrstvu znalostí

Huang predstavil NVIDIA Agent Knowledge Foundation ako súbor modelov a knižníc na prepojenie agentov s podnikovými dátami. Zdôraznil nástroje Nemotron na analyzovanie dokumentov, vkladanie dotazov a opätovné hodnotenie relevantných informácií – spolu s novými modelmi NVIDIA Kumo na tvorbu predpovedí zo štruktúrovaných dát.

“Nakoniec to, čo z týchto superagentov robí superagentov, je to, že im dáte prístup k vedomostiam vašej spoločnosti,” povedal Huang.

Diskusia

Zatiaľ žiadne správy. Napíšte ako prvý.