NVIDIA spúšťa platformu Open Agent Safety Platform pre bezpečný vývoj a nasadenie AI

NVIDIA oznámila spustenie svojej platformy Open Agent Safety Platform, komplexného riešenia navrhnutého na posilnenie bezpečnosti AI od testovania agentov až po nasadenie. Platforma pozostáva z open-source open-source softvéru NVIDIA OpenShell a návrhu referenčného systému NVIDIA Sentry, ktorý umožňuje full-stack správu a kontrolu naprieč softvérovými a hardvérovými systémami, ktoré spúšťajú agentov. Tento krok predstavuje dôležitý krok k zabezpečeniu bezpečného vývoja a nasadenia technológií umelej inteligencie (AI) v rôznych odvetviach.

Potreba robustných bezpečnostných opatrení AI sa stala čoraz naliehavejšou v dôsledku nedávnych bezpečnostných incidentov s dlhodobými agentmi. Tieto incidenty zdôraznili dôležitosť vybavenia organizácií otvorenými, prispôsobiteľnými nástrojmi, ktoré vynucujú väčšiu kontrolu nad správaním agenta. Vzorec pozorovaný v týchto incidentoch je konzistentný – agent obchádzal bezpečnostné opatrenia na aplikačnej vrstve, aby splnil pridelenú úlohu.

NVIDIA Open Agent Safety Platform rieši túto kritickú potrebu poskytovaním bezpečnej hranice behu na riadenie toho, ako autonómni AI agenti vykonávajú úlohy naprieč rôznymi systémami a modelmi. Táto platforma umožňuje organizáciám nasadzovať prvky podľa ich jedinečných požiadaviek, čím zabezpečuje prispôsobenie bezpečnostných opatrení konkrétnym potrebám. Riešenie zahŕňa NVIDIA OpenShell, ktorý stanovuje hranice pre agentov bežiacich na CPU, a Sentry, watchdog mimo pásma, ktorý neustále monitoruje správanie agentov.

Sentry je kľúčovou súčasťou platformy, pretože poskytuje vynucovanie bezpečnosti priamo v kremíku tým, že izoluje a zastavuje AI agentov, ktorí sa snažia prekročiť svoje softvérové hranice. Táto funkcia zabezpečuje, že bezpečnostné politiky sú v kremíku vynucované nezávisle, kombinujúc detekciu hrozieb, hardvérové riadenie agentov a ochranu prístupu k dátam z izolovanej dôveryhodnej domény. Schopnosti Sentry sú postavené na softvéri NVIDIA DOCA, ktorý poskytuje programovateľné schopnosti na kontrolu požiadaviek a odpovedí agentov, overovanie identity agenta a presadzovanie detailných prístupových politík s nulovou dôverou.

Open Agent Safety Platform získala značnú pozornosť lídrov v odvetví v rámci AI ekosystému. Viac ako 100 organizácií spojilo sily s NVIDIA na posilnenie bezpečnosti AI prostredníctvom zdieľaných open-source technológií. Medzi tieto spolupráce patria Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow a SpaceXAI.

Anthropic spolupracoval s NVIDIA na prinesení ďalších vrstiev bezpečnosti a kontroly do agentového stacku prostredníctvom Claude Managed Agents. Toto riešenie vytvára bezpečnostnú hranicu tým, že agentovú slučku spustí na samostatnom serveri od sandboxov, kde sa vykonáva ich práca. Integrácie s OpenShell a BlueField umožňujú podnikom vynucovať prísnu kontrolu nad prístupom agentov.

SpaceXAI využíva platformu NVIDIA Open Agent Safety Platform pre svoje Cursor kódovanie agentov a Grok modelov, pričom zdôrazňuje dôležitosť presadzovania bezpečnostných opatrení mimo modelu prostredníctvom ďalších kontrol, ktoré agenti nemôžu obísť. Scale AI úzko spolupracuje s NVIDIA na začlenení platformových technológií do svojej vrstvy agentickej infraštruktúry, čím zabezpečuje spoľahlivú prevádzku v kritických aplikáciách.

Salesforce integroval OpenShell s Slack, čo umožňuje tímom riadiť aktivitu agentov priamo z platformy – sledovať aktivitu agentov a auditné udalosti, schvaľovať alebo odmietať požiadavky na ďalšie oprávnenia. SAP integruje OpenShell do runtime Joule Studio ako súčasť svojej Business AI Platformy, čím spája obchodný dohľad s bezpečnosťou behu. Spoločnosť tiež prispieva inžinierskou prácou pre OpenShell a spolupracuje s NVIDIA na zlepšovaní štandardov interoperability prostredníctvom Open Secure AI Alliance.

Spustenie platformy Open Agent Safety Platform predstavuje významný míľnik v riešení naliehavej potreby robustných bezpečnostných opatrení AI. Ako poznamenal Jensen Huang, zakladateľ a generálny riaditeľ NVIDIA, “Mimoriadny potenciál AI pre spoločnosť sa naplní len vtedy, ak vyriešime bezpečnosť AI.” Platforma spája lídrov v odvetví, aby zdieľali najlepšie postupy, zosúladili metódy hodnotenia a podporovali medzinárodnú spoluprácu – čím nakoniec zvyšuje latku globálnej bezpečnosti AI.

Softvér NVIDIA Open Agent Safety Platform je dostupný prostredníctvom stránky pre vývojárske zdroje spoločnosti a GitHubu. Tento krok podporuje misiu Open Secure AI Alliance, ktorá si kladie za cieľ posilniť bezpečnosť AI agentov prostredníctvom otvoreného výskumu, zručností a nástrojov. Alianciu iniciovala NVIDIA spolu s viac ako 120 poprednými organizáciami a riadi ju Linux Foundation.

Dostupnosť tejto platformy by mala mať významný dopad na rôzne odvetvia, vrátane financií, energetiky a infraštruktúrneho softvéru. Citi a JPMorganChase patria medzi lídrov vo finančných službách, ktorí spolupracujú s NVIDIA na zdieľaných open-source bezpečnostných technológiách agentov. Lídri v oblasti energetiky ako Hitachi Energy, EPRI, NextEra Energy, Quanta Services, SPP, Schneider Electric, Siemens Energy a Worley tiež úzko spolupracujú s NVIDIA na integrácii platformových technológií do svojich operácií.

Lídri v oblasti infraštruktúrneho softvéru Canonical, SUSE a Red Hat integrujú Open Agent Safety Platform do široko používaných operačných systémov. Red Hat prevádzkuje OpenShell a DOCA vo svojej AI Factory spolu s NVIDIA – spolu-navrhnuté podnikové AI riešenie na budovanie, nasadzovanie a správu AI vo veľkom rozsahu naprieč hybridnými cloudovými prostrediami.

Partneri NVIDIA, vrátane Baseten, Cisco, CoreWeave, Dell Technologies, GMI Cloud, HPE, HP Inc., Irregular, Lenovo, Microsoft, Nebius, Oracle Cloud Infrastructure, Supermicro a Together AI, ponúkajú AI infraštruktúrne riešenia, ktoré využívajú a podporujú technológie NVIDIA Open Agent Safety Platform, aby zákazníkom pomohli bezpečnejšie spúšťať AI agentov.