AI modely

Meta uviedla na trh svoj doteraz najpokročilejší model umelej inteligencie s otvorenou váhou (AI), Muse Spark Open. Tento nový model je navrhnutý tak, aby konkuroval popredným čínskym AI modelom ako Qwen a Kimi K3, ktoré v posledných rokoch dominovali trhu.

Podľa šéfa AI Meta Alexandra Wanga je Muse Spark Open významným vývojom pre spoločnosť. V tweete Wang opísal model ako “najvýkonnejší americký model s otvorenou váhou doteraz,” s 816 miliardami celkových parametrov a 42 miliardami aktívnych parametrov. Model sa tiež môže pochváliť kontextom s jedným miliónom tokenov a natívnymi multimodálnymi schopnosťami.

Muse Spark Open je model AI s otvorenou váhou, čo znamená, že vývojári si môžu stiahnuť jeho parametre alebo váhy a prispôsobiť ich podľa potreby. Tento prístup sa líši od uzavretých modelov ako Claude od Anthropic alebo OpenAI ChatGPT, kde základný kód nie je používateľom prístupný. Wang zdôraznil, že Muse Spark Open “vyniká v úlohách s dlhým horizontom, komplexnom softvérovom inžinierstve a viacstupňovom uvažovaní”, čo z neho robí cenný nástroj pre vývojárov.

Meta v posledných rokoch pracuje na zlepšení svojich AI schopností, so zameraním na vývoj pokročilejších modelov s otvorenou váhou. Úsilie spoločnosti sa vyplatilo, keďže Muse Spark Open je teraz považovaný za jedného z najväčších konkurentov na trhu. Čínski vývojári ako Alibaba a Moonshot AI v minulosti dominovali tejto oblasti, no nový model Meta zmenšil túto medzeru.

Muse Spark Open vyžaduje značný výpočtový výkon na efektívny chod, ale používatelia si môžu vytvoriť “superpočítač” na vlastnej pracovnej ploche tak, že model spustia na dvoch Mac Studios s čipmi M5 Ultra. Táto spolupráca medzi Meta a Apple je nezvyčajným partnerstvom, ktoré zdôrazňuje rastúci význam AI v technologickom priemysle.

Muse Spark Open, nový kódovane optimalizovaný model vyvinutý spoločnosťou Meta, bol optimalizovaný na efektívny chod na platforme NVIDIA GB300 NVL72. Tento model 816B zmesi expertov (MoE) sa môže pochváliť pôsobivými 42 miliardami aktívnych parametrov a obrovským kontextovým oknom 1 milión tokenov, čo mu umožňuje uchovávať celé projekty s komplexnými závislosťami v pamäti bez rozdeľovania úloh na menšie časti.

Architektúra modelu je špeciálne navrhnutá pre agentické kódovacie pracovné postupy, ktoré vyžadujú trvalú viackrokovú prácu. Na rozdiel od všeobecných kódovacích modelov, ktoré vynikajú pri jednorazových dokončeniach, ako je generovanie funkcií alebo písanie jednotkových testov, Muse Spark Open dokáže plánovať, konať, pozorovať a samoopravovať počas dlhotrvajúcich relácií. Podporuje viacstupňové vykonávanie úloh s použitím nástrojov, hodnotením výstupov a iteratívnym zdokonaľovaním.

Muse Kontextové okno Spark Open s kapacitou 1 milión tokenov umožňuje spracovávať zložité projekty s tisíckami súborov bez rozdelenia úloh na menšie časti. To je obzvlášť užitočné pri plánovaní viacnásobných refaktoringov alebo pri orientácii vo veľkých kódových základniach. Model využíva podmieňovanie cieľov na udržanie smeru a kompaktíciu kontextu, aby si zachoval vedomosti potrebné na udržanie pokroku počas dlhodobých relácií.

Percepčný enkodér modelu má obrovský počet parametrov 1,8 miliardy, čo mu umožňuje natívne spracovávať prekladaný text, obrázky, video snímky a zvuk bez samostatných pipeline na každý modálny režim. To umožňuje vývojárom uvažovať o tom, čo vidia, počujú a čítajú, v jednom jednotnom prechode, čo ho robí ideálnym pre pracovné postupy zahŕňajúce screenshoty, diagramy, chybové záznamy a video návody.

Muse Riedke smerovanie MoE v Spark Open aktivuje len 42 miliárd z celkových 816 miliárd parametrov na token, čím poskytuje agentickú schopnosť frontier za zlomok nákladov na obsluhu hustých modelov v rovnakom rozsahu. To je obzvlášť užitočné pri veľkorozmerných výrobných nasadeniach, kde sú výpočtové zdroje obmedzené.

Platforma NVIDIA GB300 NVL72 má rackovú architektúru, ktorá integruje 72 Blackwell Ultra GPU do jednej platformy. Jej obrovská šírka pásma 130 TB/s umožňuje efektívnu komunikáciu medzi expertnou prevádzkou, čím eliminuje úzke miesta, ktoré sa objavujú pri tradičných bežných sieťach.

Optimalizovaný výkon Muse Spark Open na NVIDIA GB300 NVL72 bol preukázaný, že poskytuje až 50K tokenov za sekundu na GPU a až 600 tokenov za sekundu na používateľa. To umožňuje AI fabrikám spúšťať veľké parametrové modely v produkcii s vysokou priepustnosťou a nízkou latenciou, čo z neho robí atraktívne riešenie pre vývojárov, ktorí chcú nasadiť agentické kódovacie workflowy.

Muse Spark Open môže byť nasadený pomocou viacerých inferenčných zásobníkov podporovaných NVIDIA, vrátane SGLang, vLLM a TensorRT LLM. Tieto zásobníky poskytujú priamu kontrolu nad konfiguráciou servisu, paralelizáciou a dávkovaním na platforme NVIDIA pre akcelerované výpočty, čo umožňuje vývojárom doladiť nasadenia pre optimálny výkon.

Vývojári môžu posttrénovať Muse Spark Open pomocou NVIDIA NeMo AutoModel, natívnej školiacej knižnice PyTorch, ktorá podporuje plné finé doladenie SFT a LoRA hneď po vysadení. To umožňuje rýchle experimentovanie v širokej škále prípadov špecifických pre odvetvie bez potreby konverzie modelu alebo pretrénovania od nuly.

Na začiatok s GPU-akcelerovaným Muse Spark Open si vývojári môžu stiahnuť váhy NVFP4 z Hugging Face alebo vyskúšať stiahnuteľný NVIDIA NIM pre produkčné nasadenia. NIM redukuje nastavenie na jeden príkaz a automaticky vyberá najlepšie servisné backend a presnosť pre detekovaný hardvér.

META, materská spoločnosť Facebooku, oznámila partnerstvo s Apple, aby priniesla výkonný nový model otvorenej umelej inteligencie (AI) pre špičkové počítače Mac. Cieľom spolupráce je uľahčiť vývojárom, výskumníkom a firmám spúšťanie zložitých AI úloh na ich vlastných desktopoch.

Nový AI model, nazvaný Muse Spark Open, je spoločnosťou Meta označený za najvýkonnejší americký model s otvorenou váhou doteraz. Môže sa pochváliť pôsobivými 816 miliardami celkových parametrov, hoci jeho architektúra aktivuje len približne 42 miliárd parametrov pre daný spracovateľský krok. To znamená, že používatelia môžu na svojich Macoch ľahko vykonávať zložité úlohy, ako je plánovanie s dlhým horizontom a viacstupňové uvažovanie.

Partnerstvo medzi Meta a Apple je významné, pretože umožňuje vývojárom prístup k interným komponentom AI modelu, čím je transparentnejší a ľahšie pochopiteľné, ako AI prijíma rozhodnutia. Na rozdiel od tradičných AI služieb, ktoré sa spoliehajú na firemné dátové servery, je možné modely s otvorenou váhou stiahnuť a spustiť na vlastnom hardvéri používateľa, čo mu dáva väčšiu kontrolu nad dátami.

Spolupráca zahŕňa aj aktualizáciu Apple svojho MLX strojového učenia na podporu Muse Spark Open. To umožňuje používateľom využiť jednotnú pamäťovú architektúru Apple Silicon, ktorá poskytuje rýchly prístup k veľkému množstvu pamäte. Dve Mac Studio jednotky, každá s M5 Ultra a 512 GB of RAM, môžu obsahovať celý model, čo umožňuje používateľom spúšťať zložité AI úlohy na vlastných desktopoch.

Výsledkom sú dve Mac Studio, ktoré sa správajú ako jeden superpočítač s terabajtom jednotnej pamäte. Takáto úroveň výkonu by bola ťažko dosiahnuteľná pomocou tradičných cloudových služieb, ale s Muse Spark Open a Apple MLX frameworkom môžu vývojári teraz pristupovať k výkonným AI schopnostiam z pohodlia vlastného stola.

V snahe podporiť vedecký výskum zaviedla OpenAI Rosalind Academic Plan, ktorý poskytuje bezplatný prístup k jeho špecializovanému modelu v oblasti prírodných vied, GPT-Rosalind. Oprávnené akademické laboratóriá môžu získať až 30 miest v Business Standard bezplatne na dobu až 12 mesiacov.

GPT-Rosalind je špičkový AI nástroj navrhnutý na podporu hlbšieho uvažovania o zložitých biologických otázkach. Kombinuje frontier argumenting s Rosalind Workbench, čo umožňuje orchestráciu špecializovaných nástrojov naprieč medicínskou chémiou, genomikou a ďalšími vedeckými aplikáciami.

Cieľom plánu je pomôcť viacerým akademickým vedcom získať prístup k GPT-Rosalind, ktorý možno využiť v rôznych oblastiach výskumu, vrátane návrhu liekov a proteínov, pochopenia neurodegenerácie a skúmania molekulárnych interakcií medzi proteínmi a ich cieľmi.

Poskytovaním bezplatného prístupu k tomuto pokročilému AI nástroju chce OpenAI podporiť objavy, ktoré majú ďalekosiahle prínosy aj mimo laboratória. Spoločnosť sa zaväzuje umožniť akademickým výskumníkom napĺňať svoje vedecké ambície a prispievať zmysluplne do svojich odborov.

Rosalind Academic Plan je momentálne dostupný akademickým laboratóriám na amerických univerzitách. Vedúci laboratórií a vedúci laboratórií môžu žiadať v mene svojich laboratórií prostredníctvom procesu dôveryhodného prístupu OpenAI, ktorý zahŕňa overenie legitímnosti inštitúcie a preskúmanie profesionálneho pozadia a právomocí vedúceho dohliadať na prístup do laboratórií.

Po schválení budú mať výskumníci prístup k GPT-Rosalind až pre 30 menovaných členov, spolu s ďalšími modelmi OpenAI na hraniciach zahrnutými v pláne. Prístup k API zatiaľ nie je zahrnutý, ale overení vedúci a vedúci laboratórií môžu spravovať oprávnenia členov a byť zodpovední za schválené používanie svojho laboratória.

OpenAI zdôrazňuje, že výskumné dáta zdieľané prostredníctvom Rosalind Academic Plan nebudú štandardne použité na trénovanie jeho modelov. GPT-Rosalind je navrhnutý tak, aby podporoval hlbšie uvažovanie o zložitých biologických otázkach a výskumníci ho môžu využiť na skúmanie citlivých vedeckých otázok v rámci opatrení určených pre legitímny výskum.

Kritériá oprávnenosti plánu zahŕňajú akademické laboratóriá na amerických univerzitách bez existujúcej dohody OpenAI Enterprise, ktoré musia platiť prostredníctvom procesu dôveryhodného prístupu. Laboratóriá s existujúcou dohodou musia žiadať prostredníctvom procesu Enterprise prístupu na svojej univerzite.

Pred aktiváciou prístupu OpenAI overuje legitímnosť inštitúcie a prehodnocuje profesionálne pozadie vedúceho a jeho právomoc dohliadať na prístup do laboratória. Spoločnosť tiež hodnotí inštitucionálnu príslušnosť laboratória, výskumné aktivity a zamýšľané využitie, pričom stanovuje jasné zodpovednosti vedúceho laboratória a určeného kontaktného pracovníka pre bezpečnosť inštitúcie.

OpenAI zaviedla opatrenia na odhalenie možného zneužitia, pričom zohľadňuje legitímny výskumný kontext a znižuje zbytočné prerušenia autorizovanej práce. Výskumníci môžu očakávať monitorovanie a vymáhanie po aktivácii, s následnými kontrolami, ak sa objavia otázky ohľadom ich práce alebo oprávnenia.

Muse Spark Open, najnovší AI model od Meta, našiel nečakaného partnera v Apple. Obaja technologickí giganti spojili sily, aby tento obrovský model bežal lokálne na Apple M5 Ultra Mac Studios. Táto spolupráca predstavuje významný posun v ich vzťahu, keďže v minulosti mali svoje rozdiely.

Model Muse Spark Open nie je malý výkon, má 816 miliárd parametrov a vyžaduje dva pripojené Apple desktopy na jeho napájanie. Podľa Meta si vývojári môžu tento otvorený model stiahnuť a prispôsobiť podľa licenčných podmienok. Toto nastavenie umožňuje lokálne spracovanie bez toho, aby každá výzva bola odoslaná do hostovaného modelu, čo používateľom dáva väčšiu kontrolu nad ich dátami.

Šéf AI spoločnosti Meta, Alexandr Wang, vyjadril svoje nadšenie z tejto spolupráce v rozhovore pre Axios. Opísal ju ako “mama a ocko si opäť pekne hrajú”, čím zdôraznil nezvyčajnú povahu tohto korporátneho partnerstva. Toto predstavuje významnú zmenu oproti januáru 2025, keď Mark Zuckerberg kritizoval Apple v podcaste Joea Rogana za nedostatok inovácií a obmedzenia na produkty iných spoločností.

Muse Spark Open nadväzuje na predchádzajúcu modelovú rodinu Meta, predstavenú v apríli. Spoločnosť tvrdí, že ide o najvýkonnejší americký model s otvorenou váhou, na základe vlastných hodnotení. Tento model je navrhnutý pre úlohy ako kódovanie, viacstupňové uvažovanie a ‘agentic’ prácu – využívanie nástrojov na plnenie úloh. Vo svojich testoch Meta použila Muse Code, poháňaný týmto novým modelom, na zmeny v aplikácii Mastodon Ice Cubes a na ovládanie video editora DaVinci Resolve.

Spolupráca medzi Apple a Meta má významný háčik: vyžaduje dva M5 Ultra Mac Studio s až 512GB zjednotenej pamäte každý. Na spustenie modelu sa používa MLX strojové učenie, ktoré je možné stiahnuť cez GitHub spolu s potrebným MLX adaptérom. Toto nastavenie nemusí byť uskutočniteľné pre bežných používateľov MacBooku, ale poskytuje spôsob, ako obísť dlhodobý problém súkromia.

Vydanie nadväzuje na menší model spoločnosti Meta, Muse Glimmer, navrhnutý na prevádzku na notebookoch alebo PC. Oba modely odrážajú atrakciu prevádzky AI na hardvéri, ktorý ovládate, čo umožňuje lokálne spracovanie bez závislosti na hostovaných modeloch. Táto spolupráca môže byť len začiatkom pre Apple a Meta, keď skúmajú spôsoby, ako ďalej integrovať svoje technológie.

Spoločnosť Meta oznámila spustenie svojho najnovšieho AI modelu s otvorenou váhou, navrhnutého na počítačoch Apple Mac. Tento nový model, nazvaný ‘Muse Spark Open’, sa môže pochváliť pôsobivou škálou schopností a funkcií, ktoré ho odlišujú od iných populárnych modelov v odbore.

Model Muse Spark Open využíva ohromujúcich 816 miliárd parametrov a má kontextové okno 1 milión tokenov. Podľa Meta tieto špecifikácie umožňujú lepší výkon v porovnaní s inými modelmi s otvorenou váhou, čo dokazujú výsledky hodnotenia zverejnené vo štvrtok.

Jednou z kľúčových výhod tohto nového modelu je jeho schopnosť bežať lokálne na Macoch, čo ho robí atraktívnou voľbou pre používateľov, ktorí sa nechcú spoliehať na cloudové služby. Prevádzka modelu však vyžaduje značné výpočtové zdroje, pričom na efektívny chod je potrebný minimálne 1 terabajt RAM. Ideálne riešenie by bolo spárovať model Muse Spark Open s Apple Mac Studio vybaveným čipom M5 Ultra.

Meta už otestovala model Muse Spark Open integráciou so svojím AI kódovacím terminálom Muse Code. Táto integrácia umožňuje používateľom využívať model na zložité úlohy, ako sú agentická práca a opravy kódovania. V jednom pozoruhodnom príklade Meta použila model na riešenie problémov v klienti Mastodon, vrátane opráv chýb, nových funkcií a plných možností zostavovania.

Meta oznámila vydanie svojho nového AI modelu Spark Open Muse , ktorý sa môže pochváliť pôsobivými 816 miliardami celkových parametrov. Podľa tvrdení Meta z neho robí jeden z najvýkonnejších modelov s otvorenou váhou doteraz.

Ešte významnejšie však je, že tento model dokáže efektívne bežať na stolových počítačoch s dvoma Apple M5 Ultra Mac Studio s najnovším MLX frameworkom. Táto spolupráca medzi Meta a Apple predstavuje zriedkavý príklad spolupráce medzi týmito dvoma technologickými gigantmi, ktorí boli v minulosti rivalmi.

Generálni riaditelia oboch spoločností verejne podporujú prácu toho druhého na Muse Spark Open. Mark Zuckerberg, generálny riaditeľ Meta, vyjadril nadšenie z možností modelu a uviedol, že vďaka spolupráci s Apple a jeho tímom vedeným Johnom Ternusom “beží skvele” na nových Mac Studios. Ten odpovedal gratulačnou správou, v ktorej zdôraznil efektivitu prevádzky takého komplexného modelu priamo zo stola.

Podľa hlavného AI riaditeľa Meta Alexandra Wanga sa toto partnerstvo pripravuje už niekoľko mesiacov. V rozhovore pre Axios poznamenal, že je “vzrušujúce” vidieť obe spoločnosti spolupracovať na tomto projekte. Spolupráca je vnímaná ako pozitívny vývoj, najmä vzhľadom na rivalitu medzi Meta a Apple v iných oblastiach.

NVIDIA vydala najnovší prírastok do svojej rodiny Nemotron, radu vysoko efektívnych modelov navrhnutých špeciálne pre špecializovaných agentov. Nové modely sú súčasťou série Nemotron 3.5 a zahŕňajú Super VL, Bolt 74B-A9B 24GB a Bolt E4B 4GB.

Model Nemotron 3.5 Super VL je otvorený model s 120 miliardami parametrov, ktorý poskytuje výnimočný výkon pri plnení úloh a presnosti pre špecializovaných agentov s neustálym prístupom. Bol optimalizovaný na zvládanie úloh s veľkým objemom v pracovných postupoch trvajúcich dni alebo týždne.

Super VL je navrhnutý tak, aby bol vysoko efektívny, s počtom parametrov približne pätinou veľkosti najväčšieho modelu uvažovania od NVIDIA, pričom si zachováva vedúcu presnosť pri multimodálnych agentických úlohách, ako je sledovanie inštrukcií, používanie nástrojov a vizuálne porozumenie.

Modely Nemotron 3.5 Bolt sú optimalizované pre edge computing a poskytujú rovnováhu medzi inteligenciou a rýchlosťou na GB. Dva nové edge modely sa pridávajú k Lightning a Ultra v rodine Nemotron, pričom každý je navrhnutý na spracovanie špecifických typov agentových záťaží.

Bolt 74B-A9B 24GB je už dostupný a bol optimalizovaný pre lokálne agentické úlohy na systémoch NVIDIA RTX/DGX Spark pomocou natívnej 2-bitovej kvantizácie. Poskytuje dobrú rovnováhu medzi inteligenciou a rýchlosťou na GB, vďaka čomu je vhodný pre každodenné agentské úlohy, ako je výskum webu alebo písanie kódu.

Bolt E4B 4GB je navrhnutý na prevádzku fyzických a konverzačných agentov na systémoch GeForce RTX, Jetson a RTX/DGX Spark. Kombinuje prirodzenú komunikáciu s viacotáčkovými agentickými schopnosťami na pohon rýchlych lokálnych hlasových asistentov a interaktívnych postáv.

Rodina Nemotron teraz pokrýva celý rozsah nasadení agentov, od veľkých podnikových serverov až po edge zariadenia a lokálny hardvér. Každá organizácia si môže vybrať otvorený model optimalizovaný pre svoju konkrétnu úroveň bez nutnosti kompromisov medzi schopnosťami a nasaditeľnosťou.

Super VL bol vytvorený v spolupráci s koalíciou Nemotron a poskytuje vedúcu presnosť pri multimodálnych agentických úlohách porovnateľnú s najväčším modelom uvažovania NVIDIA s približne pätinou počtu parametrov. Je tiež veľmi efektívny, pomáha podnikovým agentom rýchlejšie dokončiť úlohy vo veľkom objeme naprieč pracovnými postupmi trvajúcimi dni alebo týždne.

Modely Bolt sú navrhnuté pre edge computing a poskytujú rovnováhu medzi inteligenciou a rýchlosťou na GB. Boli optimalizované pre lokálne agentické úlohy na systémoch NVIDIA RTX/DGX Spark pomocou natívnej 2-bitovej kvantizácie, čo ich robí vhodnými pre každodenné agentské úlohy, ako je výskum webu alebo písanie kódu.

Silné stránky vizuálneho jazyka Super VL sú zamerané na to, s čím sa agenti stretávajú v praxi: optické rozpoznávanie znakov, tabuľky, grafy a štruktúrované informácie vo vizuálnych dokumentoch. Spracováva webovú stránku, extrahuje text, číta grafy a diagramy a vracia poznatky z nájdených informácií.

To isté platí pre PDF a ďalšie dokumenty, s ktorými agenti bežne pracujú. Super VL rozumie obrázkom, webovým stránkam a PDF a koná na základe svojho porozumenia, kombinácia textu a vizuálneho porozumenia v jednom modeli znamená, že agenti nemusia smerovať úlohy medzi samostatnými systémami – kontext pokračuje, keď práca prechádza z dokumentu na dáta a potom na rozhodnutie.

Otvorenosť a prispôsobiteľnosť sa navzájom posilňujú. Model Nemotron 3.5 Super VL je dodávaný s otvorenými váhami, otvorenými datasetmi a trénovacími receptami. Riadenie funguje dvoma smermi: organizácie môžu model spustiť tam, kde to vyžadujú ich bezpečnostné a dátové požiadavky na pobyt, alebo si vyberú model, ktorý si môžu prispôsobiť namiesto modelu, ktorý podlieha obmedzeniam poskytovateľa.

Prispôsobenie je podporované cez NVIDIA NeMo, pipeline založené na Pythone a otvorené dátové súbory. Organizácie po trénovaní Super VL na vlastných dátach, nástrojoch, politikách a pracovných postupoch zvyšujú presnosť pri špecializovaných úlohách, ktoré definujú nasadenie ich agentov.

Model Nemotron 3.5 Super VL bol trénovaný na približne 26 biliónoch tokenov v rámci predtrénovania a pokračujúceho predtrénovania, následne posttrénovaný s približne 3,8 miliónmi vzoriek a posilňovacím učením v desiatkach prostredí. NVIDIA tiež zverejňuje otvorené dátové súbory o Hugging Face zahŕňajúcich používanie agentických nástrojov, financie, sledovanie inštrukcií, dlhý kontext, spravodlivosť a porozumenie jazyka vízie.

NVIDIA NIM balí model ako mikroslužbu pripravenú na produkciu s optimalizovanými konfiguráciami optimalizovanými na výkon a overenými konfiguráciami a podporou na úrovni podniku, ktorá sa každé dva týždne obnovuje bezpečnostnými záplatami a zlepšeniami výkonu. S modelom bežiacim na NVIDIA Dynamo môžu organizácie obslúžiť až 8-násobok používateľov s o 85 % nižšou latenciou.

Model Nemotron 3.5 Super VL je už dostupný na Hugging Face, Open Router, ModelScope komunite a ako NVIDIA NIM. Beží na celom hardvérovom stacku NVIDIA: DGX Spark, DGX Station, RTX PRO a RTX systémy pre lokálnu inteligenciu na desktope, na NVIDIA Jetson na okraji a naprieč dátovými centrami a cloudovými prostrediami.

Modely Nemotron 3.5 Bolt sú už tiež dostupné, pričom Super VL je posttrénovaný desiatkami organizácií naprieč odvetviami, aby zvýšili presnosť pri špecializovaných úlohách, ktoré definujú nasadenie ich agentov.