NVIDIA sa zaväzuje 250 miliónov dolárov na rozvoj výskumu bezpečnosti a ochrany agentov vo Veľkej Británii

NVIDIA oznámila významný záväzok podporovať výskumné schopnosti agentov a ochrany v Spojenom kráľovstve. Spoločnosť poskytne prístup k výpočtom v hodnote 250 miliónov dolárov počas piatich rokov, pričom na tento účel bude ročne vyčlenených 50 miliónov dolárov.

Väčšina financovania bude venovaná na podporu širšej výskumnej komunity v oblasti bezpečnosti a ochrany AI vo Veľkej Británii, zatiaľ čo časť sa zameria na konkrétne projekty s British Open-Ended Learning and Discovery Lab (BOLD), Science of Fundamental AI Research Lab (SOFAIR) a Imperial College London. Tieto inštitúcie sú na čele modelov agentických základov a bezpečnosti robotiky.

Záväzok NVIDIA vedie Jensen Huang, zakladateľ a generálny riaditeľ, ktorý zdôraznil, že “schopnosti a bezpečnosť AI musia napredovať spoločne.” Verí, že Spojené kráľovstvo prináša svetovú vedeckú prísnosť k tejto zásadnej inžinierskej výzve a že zrýchlené výpočty budú kľúčové pri vývoji ochranných opatrení pre čoraz výkonnejšiu AI. Táto spolupráca má za cieľ premeniť výskumné vedenie na reálne riešenia.

Britský minister pre umelú inteligenciu, Kanishka Narayan, privítal dar NVIDIA ako “prejav dôvery” v britskú silu a odborné znalosti vo výskume AI, najmä v oblasti bezpečnosti AI na hraniciach. Poznamenal, že táto investícia pomôže britským výskumníkom získať zdroje potrebné na realizáciu svojich nápadov a vybudovanie jedinečnej britskej budúcnosti AI.

Britský minister obchodu Jonathan Reynolds zdôraznil dôležitosť zabezpečenia bezpečnosti a ochrany AI, aby sa ľudia cítili pohodlne pri využívaní jej potenciálu. Investícia NVIDIA podporí britských výskumníkov v tom, aby v tomto úsilí viedli svet, urýchľujúc prelomové objavy, ktoré budujú dôveru a pomáhajú bezpečne nasadzovať AI.

NVIDIA poskytne prístup k výpočtovým schopnostiam prostredníctvom britskej spoločnosti NVIDIA Cloud Partners, pričom infraštruktúra bude hostovaná vo Veľkej Británii. Táto iniciatíva si kladie za cieľ prepojiť doplnkové oblasti výskumu, vrátane bezpečnosti a ochrany agentov, podporou projektov, ako je práca BOLD na vývoji prístupov, ako by sa AI systémy učili, prispôsobovali a pracovali spolu s ľuďmi.

BOLD vedie Jakob Foerster, ktorý uviedol, že “prechádzame kritickým momentom, keď bezpečnosť AI ako dodatočná myšlienka už nie je vhodná.” Verí, že tento výpočet pomôže preskúmať transparentné a na človeka zamerané prístupy k AI, čo umožní výskumníkom spoločne čeliť výzve budovania riadenia a spolupráce medzi ľuďmi a AI od základov.

Práca Imperial College London na výskume bezpečnosti a ochrany agentov zahŕňa bezpečnostné inžinierstvo a robotiku. Alessandra Russo, riaditeľka Imperial Frontier AI Research Lab, zdôraznila, že “ďalšou hranicou umelej inteligencie je fyzická — roboty, autonómne systémy agentov, ktorí vnímajú, uvažujú a konajú v reálnom svete.” Verí, že s NVIDIA a priemyselnými partnermi môžu zabezpečiť, že bezpečnosť a istota sú jadrom tejto revolúcie.

Tento záväzok nadväzuje na existujúcu spoluprácu NVIDIA s britskou výskumnou komunitou, vrátane práce na superpočítači Isambard-AI Univerzity v Bristole poháňanom čipmi NVIDIA Grace Hopper Superchips. Iniciatíva sa zameria na bezpečné agenty, bezpečnosť otvorených modelov a opatrenia na zmiernenie hrozieb v reálnom svete, podporujúc bezpečné sandboxy, reprodukovateľný výskum a benchmarky hodnotenia bezpečnosti.