Microsoft predstavuje model rozhodovania (Decision-Scoring) pre rýchle a spoľahlivé rozhodnutia
Objavuje sa nová kategória AI modelov, ktoré riešia zložité rozhodovacie úlohy. Na rozdiel od veľkých jazykových modelov (LLM), ktoré generujú text alebo uvažujú cez problémy, tieto rozhodovacie modely sú navrhnuté tak, aby dodávali štruktúrované výstupy, na ktoré môže softvér okamžite reagovať.
Tieto modely majú potenciál odomknúť širokú škálu užitočných úloh tým, že prijímajú rozhodnutia a klasifikujú veci za veľmi nízke náklady a s vysokým výkonom.
Microsoft predstavil svoj najnovší model v tejto kategórii: Microsoft-Decision-1. Tento nový AI nástroj je špeciálne navrhnutý na rýchle rozhodovanie, dostupný cez Microsoft Foundry a OpenRouter.
Hlavnou funkciou modelu je poskytovať kalibrované pravdepodobnostné skóre pre každú možnosť s pevne stanovenou sadou odpovedí. Podporuje áno/nie, výberové otázky, hodnotiace možnosti, ako aj hodnotenie AI odpovedí a akcií agentov na základe rubriky prostredníctvom jednoduchého štruktúrovaného API volania.
Microsoft-Decision-1 dosiahol špičkový výkon v latencii a kvalite pri štruktúrovaných rozhodovacích úlohách, prekonávajúc LLM aj iné rozhodovacie modely.
Presnosť modelu bola testovaná v 36 benchmarkoch pokrývajúcich takmer 150 000 otázok. V tomto porovnaní Microsoft-Decision-1 preukázal najvyššiu presnosť s výrazným náskokom pred konkurenciou.
Quyet-1.0-Large, ďalší významný AI model, skončil na druhom mieste, no stále zaostával za Microsoft-Decision-1 s výrazným náskokom. GPT-6 Sol zaostával ďaleko, pričom úlohy dokončil 35-krát dlhšie v porovnaní s novým modelom Microsoftu.
Na vytvorenie Microsoft-Decision-1 výskumníci dodatočne trénovali Qwen3.5-9B pre rýchle, jednorazové rozhodovacie skórovanie a plánujú ho v budúcnosti prepracovať na iných modeloch, vrátane Microsoft AI (MAI) a OpenAI.
Vývoj spoľahlivých rozhodovacích modelov si vyžaduje riešenie niekoľkých kľúčových výziev: rýchlosť, kvalita, ktorá sa zovšeobecňuje naprieč úlohami, odolnosť voči variáciám vstupov, kalibrácia pravdepodobnosti a istoty a bezpečnosť.
Rýchlosť je kľúčová otázka, pretože každé rozhodnutie pridáva oneskorenie do pracovných postupov. Napríklad pridanie 100 milisekúnd ku každému z 20 po sebe idúcich rozhodnutí môže predĺžiť celkový pracovný tok o dve sekundy.
Na riešenie tejto výzvy sa Microsoft-Decision-1 môže pochváliť pôsobivou latenciou P50 ~35x rýchlejšou ako GPT-6 Sol.
Kvalita, ktorá generalizuje, je ďalším kľúčovým aspektom rozhodovacích modelov. Je ľahké model preprispôsobiť pre jeden benchmark alebo typ úlohy, ale je dôležité vedieť, či sa kvalita prenáša aj na rôzne úlohy, ktoré nie sú zahrnuté v trénovacích dátach.
Na vyhodnotenie Microsoft-Decision-1 ho výskumníci testovali naprieč desiatkami benchmarkov, ktoré boli zaslepené trénovaním, zahŕňajúcimi smerovanie, hodnotenie, dlhý kontext, viacjazyčné a mimo distribúciu, uvažovanie a bezpečnosť. Model si mimoriadne dobre viedol na týchto širších súboroch benchmarkov a preukázal silnú generalizáciu.
Robustnosť je tiež kľúčovým aspektom rozhodovacích modelov. Ekvivalentné vstupy by mali produkovať ekvivalentné rozhodnutia bez toho, aby boli ovplyvnené parafrázovanými stavmi alebo inštrukciami, zmenami popisov možností, preusporiadaním volieb, zmenami tónov alebo neškodným šumom pri formátovaní.
Výskumníci narušili tú istú požiadavku ôsmimi spôsobmi a merali, ako často sa rozhodnutie zmenilo. Microsoft-Decision-1 preukázal pozoruhodnú stabilitu, pričom len 1,3 % narušení spôsobilo v priemere zmenu, vrátane nuly pri parafrázovaní opisov možností alebo pri obrátení/zamiešaní možností.
Kalibrácia pravdepodobnosti a istoty je nevyhnutná pre aplikácie, aby sa rozhodli, kedy konať, odložiť alebo požiadať o prehodnotenie na základe predpovedí modelu.
Bezpečnosť je ďalším kľúčovým aspektom, pretože rozhodovacie modely by mali rozpoznávať škodlivé požiadavky bez zbytočného blokovania neškodných. Microsoft-Decision-1 bol testovaný na 5 250 žiadostiach pokrývajúcich škodlivý obsah, pokusy o jailbreak a prompt injection.
Výsledky ukázali, že model úspešne odmietol škodlivé správanie, pričom si zachoval vysokú mieru užitočnosti.
Microsoft interne testuje Microsoft-Decision-1 v rôznych scenároch, aby vyhodnotil jeho výkon a potenciálne aplikácie. Jedným z príkladov je označovanie dát, kde XBOX Research použil model na spracovanie viac ako 10 000 otvorených spätných väzieb a recenzií z prieskumov, STEAM, Twitter/X a ich zoradil do pevnej sady tém stanovených výskumníkmi.
Výsledky ukázali, že Microsoft-Decision-1 bol konkurencieschopný kvalitou s GPT-6 Sol, pričom bežal viac ako 14-krát rýchlejšie a 200-krát lacnejšie. To ukazuje potenciál modelu pre efektívne označovanie dát.
Ďalší interný testovací scenár zahŕňal reakciu na incidenty, kde naši pohotovostní inžinieri používajú AI na získavanie relevantných poznatkov na reakciu na živé incidenty v logoch, ticketovacích systémoch, hovoroch, správach a ďalších dátových zdrojoch. Microsoft-Decision-1 v tejto úlohe dosiahol lepšie a rýchlejšie výsledky ako LLM.
Model bol tiež použitý na vedecké objavy implementáciou adaptívnej preplánovacej funkcie, kde agent vyhodnotí predchádzajúci experiment, upraví svoj prístup na základe hodnotiacej hodnotenia a opakuje, kým nesplní svoje ciele.
Microsoft-Decision-1 dosiahol skóre 46-krát konzistentnejšie ako skóre založené na LLM pri trikrát vyššej rýchlosti a prinieslo takmer štvornásobnú rýchlosť adaptívneho preplánovania. To by mohlo výrazne ovplyvniť výsledky dlhodobých vedeckých experimentov.
Potenciálne aplikácie Microsoft-Decision-1 sú rozsiahle a zahŕňajú riadenie agentov, smerovanie modelov, rozhodnutia založené na zručnostiach, označovanie dát, hodnotenie AI, analýzu zámerov, smerovanie reakcie na incidenty, validáciu dát, odporúčania, relevantnosť vyhľadávania, klasifikáciu a filtrovanie obsahu, skenovanie kódu, bezpečnostné a ochranné kontroly, používanie počítačov a používateľského rozhrania, robotiku a vedecké objavy.
Vývojári môžu začať s Microsoft-Decision-1 už dnes v Microsoft Foundry alebo cez OpenRouter. Vstupné tokeny stoja 0,042 USD za milión tokenov, zatiaľ čo výstupné tokeny sú zadarmo.
Budúcnosť rozhodovacích modelov prináša veľký potenciál pre vedenie a riadenie agentov v zložitých prostrediach. S príchodom Microsoft-Decision-1 majú vývojári teraz silný nástroj na rýchle a spoľahlivé rozhodnutia.
Diskusia
Zatiaľ žiadne správy. Napíšte ako prvý.