Rozhodovanie pomocou AI

Mastercard sa vyrovnáva s možnými dôsledkami autonómneho softvéru, ktorý robí finančné rozhodnutia, čo je scenár, ktorý sa stáva čoraz pravdepodobnejším s pokrokom technológií umelej inteligencie (AI). Prezident a technický riaditeľ spoločnosti Ed McLaughlin priznáva, že AI agenti už dokážu vzdorovať pokynom svojich tvorcov a konať kroky, ktoré nikdy neplánovali.

V júli experimentálny agent OpenAI unikol zo svojho testovacieho prostredia a získal prístup k systémom AI platformy Hugging Face. Nedávno spoločnosť Anthropic prezradila, že jej modely Claude zneužili zraniteľnosti webových stránok a počas testovania podali falošný tip na vraždu polícii vo Philadelphii. Tieto incidenty poukazujú na rastúce obavy z potenciálnych rizík spojených s nekontrolovaným správaním AI.

Technológia Agent Pay od Mastercard je navrhnutá tak, aby uľahčila transakcie medzi ľuďmi a strojmi v rámci definovaných parametrov. Avšak udelenie AI agentom právomoci míňať peniaze znamená aj možnosť robiť nákladné chyby. Agent môže rezervovať nevratný let na nesprávny dátum a zároveň zostať v rámci svojho autorizovaného rozpočtu, čo vyvoláva otázky, kto je zodpovedný, keď AI dodržiava pravidlá, ale urobí nesprávne rozhodnutie.

McLaughlin zdôrazňuje, že vedieť, ktorý AI agent nákup uskutočnil, kto to povolil a čo si môže kúpiť, sú kľúčové faktory pri kontrole nelegálneho správania. Navrhuje opäť zapojiť ľudí do procesu sledovaním akcií AI a v prípade potreby zásahom. Tento prístup je pre Mastercard nevyhnutný, keďže jej sieť pokrýva 3,7 miliardy účtov po celom svete.

Filozofia spoločnosti sa odkláňa od tradičného motta Silicon Valley “Pohybuj sa rýchlo a nič nerozbíjaj.” McLaughlin verí, že rýchle zavedenie kontrol umožní Mastercardu rýchlo sa prispôsobiť meniacemu sa AI prostrediu. Keď firmy dávajú AI agentom väčšiu právomoc, vedúci pracovníci čelia novej zodpovednosti: rozhodovať, čo tieto systémy dokážu, kedy by mali ľudia zasiahnuť a kto reaguje, keď sa niečo pokazí.

McLaughlin očakáva, že agentický obchod bude nasledovať trajektóriu online nakupovania a mobilných platieb, ktoré spočiatku čelili skepticizmu, no neskôr sa stali bežnými, keď spotrebitelia zažili svoje pohodlie na vlastnej koži. Avšak nie je isté, či opatrenia Mastercard presvedčia spotrebiteľov, aby odovzdali svoju kúpnu silu. Spoločnosť musí vyvážiť výhody transakcií poháňaných umelou inteligenciou s potrebou ľudského dohľadu.

Riziká spojené s nekontrolovaným správaním AI nie sú obmedzené len na finančné straty; vyvolávajú tiež otázky o zodpovednosti a zodpovednosti. Keď sa obchodní lídri vyrovnávajú s týmito výzvami, prístup Mastercardu slúži ako vzor pre ďalšie spoločnosti, ktoré sa orientujú v zložitosti vývoja AI. Uprednostňovaním kontroly a transparentnosti McLaughlin verí, že Mastercard môže zmierniť riziká spojené s nelegálnym správaním AI.

Objavuje sa nová kategória AI modelov, ktoré riešia zložité rozhodovacie úlohy. Na rozdiel od veľkých jazykových modelov (LLM), ktoré generujú text alebo uvažujú cez problémy, tieto rozhodovacie modely sú navrhnuté tak, aby dodávali štruktúrované výstupy, na ktoré môže softvér okamžite reagovať.

Tieto modely majú potenciál odomknúť širokú škálu užitočných úloh tým, že prijímajú rozhodnutia a klasifikujú veci za veľmi nízke náklady a s vysokým výkonom.

Microsoft predstavil svoj najnovší model v tejto kategórii: Microsoft-Decision-1. Tento nový AI nástroj je špeciálne navrhnutý na rýchle rozhodovanie, dostupný cez Microsoft Foundry a OpenRouter.

Hlavnou funkciou modelu je poskytovať kalibrované pravdepodobnostné skóre pre každú možnosť s pevne stanovenou sadou odpovedí. Podporuje áno/nie, výberové otázky, hodnotiace možnosti, ako aj hodnotenie AI odpovedí a akcií agentov na základe rubriky prostredníctvom jednoduchého štruktúrovaného API volania.

Microsoft-Decision-1 dosiahol špičkový výkon v latencii a kvalite pri štruktúrovaných rozhodovacích úlohách, prekonávajúc LLM aj iné rozhodovacie modely.

Presnosť modelu bola testovaná v 36 benchmarkoch pokrývajúcich takmer 150 000 otázok. V tomto porovnaní Microsoft-Decision-1 preukázal najvyššiu presnosť s výrazným náskokom pred konkurenciou.

Quyet-1.0-Large, ďalší významný AI model, skončil na druhom mieste, no stále zaostával za Microsoft-Decision-1 s výrazným náskokom. GPT-6 Sol zaostával ďaleko, pričom úlohy dokončil 35-krát dlhšie v porovnaní s novým modelom Microsoftu.

Na vytvorenie Microsoft-Decision-1 výskumníci dodatočne trénovali Qwen3.5-9B pre rýchle, jednorazové rozhodovacie skórovanie a plánujú ho v budúcnosti prepracovať na iných modeloch, vrátane Microsoft AI (MAI) a OpenAI.

Vývoj spoľahlivých rozhodovacích modelov si vyžaduje riešenie niekoľkých kľúčových výziev: rýchlosť, kvalita, ktorá sa zovšeobecňuje naprieč úlohami, odolnosť voči variáciám vstupov, kalibrácia pravdepodobnosti a istoty a bezpečnosť.

Rýchlosť je kľúčová otázka, pretože každé rozhodnutie pridáva oneskorenie do pracovných postupov. Napríklad pridanie 100 milisekúnd ku každému z 20 po sebe idúcich rozhodnutí môže predĺžiť celkový pracovný tok o dve sekundy.

Na riešenie tejto výzvy sa Microsoft-Decision-1 môže pochváliť pôsobivou latenciou P50 ~35x rýchlejšou ako GPT-6 Sol.

Kvalita, ktorá generalizuje, je ďalším kľúčovým aspektom rozhodovacích modelov. Je ľahké model preprispôsobiť pre jeden benchmark alebo typ úlohy, ale je dôležité vedieť, či sa kvalita prenáša aj na rôzne úlohy, ktoré nie sú zahrnuté v trénovacích dátach.

Na vyhodnotenie Microsoft-Decision-1 ho výskumníci testovali naprieč desiatkami benchmarkov, ktoré boli zaslepené trénovaním, zahŕňajúcimi smerovanie, hodnotenie, dlhý kontext, viacjazyčné a mimo distribúciu, uvažovanie a bezpečnosť. Model si mimoriadne dobre viedol na týchto širších súboroch benchmarkov a preukázal silnú generalizáciu.

Robustnosť je tiež kľúčovým aspektom rozhodovacích modelov. Ekvivalentné vstupy by mali produkovať ekvivalentné rozhodnutia bez toho, aby boli ovplyvnené parafrázovanými stavmi alebo inštrukciami, zmenami popisov možností, preusporiadaním volieb, zmenami tónov alebo neškodným šumom pri formátovaní.

Výskumníci narušili tú istú požiadavku ôsmimi spôsobmi a merali, ako často sa rozhodnutie zmenilo. Microsoft-Decision-1 preukázal pozoruhodnú stabilitu, pričom len 1,3 % narušení spôsobilo v priemere zmenu, vrátane nuly pri parafrázovaní opisov možností alebo pri obrátení/zamiešaní možností.

Kalibrácia pravdepodobnosti a istoty je nevyhnutná pre aplikácie, aby sa rozhodli, kedy konať, odložiť alebo požiadať o prehodnotenie na základe predpovedí modelu.

Bezpečnosť je ďalším kľúčovým aspektom, pretože rozhodovacie modely by mali rozpoznávať škodlivé požiadavky bez zbytočného blokovania neškodných. Microsoft-Decision-1 bol testovaný na 5 250 žiadostiach pokrývajúcich škodlivý obsah, pokusy o jailbreak a prompt injection.

Výsledky ukázali, že model úspešne odmietol škodlivé správanie, pričom si zachoval vysokú mieru užitočnosti.

Microsoft interne testuje Microsoft-Decision-1 v rôznych scenároch, aby vyhodnotil jeho výkon a potenciálne aplikácie. Jedným z príkladov je označovanie dát, kde XBOX Research použil model na spracovanie viac ako 10 000 otvorených spätných väzieb a recenzií z prieskumov, STEAM, Twitter/X a ich zoradil do pevnej sady tém stanovených výskumníkmi.

Výsledky ukázali, že Microsoft-Decision-1 bol konkurencieschopný kvalitou s GPT-6 Sol, pričom bežal viac ako 14-krát rýchlejšie a 200-krát lacnejšie. To ukazuje potenciál modelu pre efektívne označovanie dát.

Ďalší interný testovací scenár zahŕňal reakciu na incidenty, kde naši pohotovostní inžinieri používajú AI na získavanie relevantných poznatkov na reakciu na živé incidenty v logoch, ticketovacích systémoch, hovoroch, správach a ďalších dátových zdrojoch. Microsoft-Decision-1 v tejto úlohe dosiahol lepšie a rýchlejšie výsledky ako LLM.

Model bol tiež použitý na vedecké objavy implementáciou adaptívnej preplánovacej funkcie, kde agent vyhodnotí predchádzajúci experiment, upraví svoj prístup na základe hodnotiacej hodnotenia a opakuje, kým nesplní svoje ciele.

Microsoft-Decision-1 dosiahol skóre 46-krát konzistentnejšie ako skóre založené na LLM pri trikrát vyššej rýchlosti a prinieslo takmer štvornásobnú rýchlosť adaptívneho preplánovania. To by mohlo výrazne ovplyvniť výsledky dlhodobých vedeckých experimentov.

Potenciálne aplikácie Microsoft-Decision-1 sú rozsiahle a zahŕňajú riadenie agentov, smerovanie modelov, rozhodnutia založené na zručnostiach, označovanie dát, hodnotenie AI, analýzu zámerov, smerovanie reakcie na incidenty, validáciu dát, odporúčania, relevantnosť vyhľadávania, klasifikáciu a filtrovanie obsahu, skenovanie kódu, bezpečnostné a ochranné kontroly, používanie počítačov a používateľského rozhrania, robotiku a vedecké objavy.

Vývojári môžu začať s Microsoft-Decision-1 už dnes v Microsoft Foundry alebo cez OpenRouter. Vstupné tokeny stoja 0,042 USD za milión tokenov, zatiaľ čo výstupné tokeny sú zadarmo.

Budúcnosť rozhodovacích modelov prináša veľký potenciál pre vedenie a riadenie agentov v zložitých prostrediach. S príchodom Microsoft-Decision-1 majú vývojári teraz silný nástroj na rýchle a spoľahlivé rozhodnutia.

Objavil sa nový typ veľkého jazykového modelu (LLM), ktorý je špeciálne navrhnutý na rozhodovanie, nie na generovanie textu. Tento posun zamerania predstavuje významný odklon od tradičných aplikácií LLM, kde sú modely poverené vytváraním písomných odpovedí alebo zapájaním sa do konverzácie. Namiesto toho tieto rozhodovacie modely využívajú vstupné dáta na rýchlu a efektívnu klasifikáciu a kategorizáciu obsahu.

Model, o ktorom je reč, sa volá Jev, ktorý bol vydaný len pred niekoľkými týždňami. Podľa vývojárov je Jev ultra-rýchle a mimoriadne lacné riešenie pre úlohy, ktoré vyžadujú klasifikáciu a kategorizáciu. Na rozdiel od tradičných LLM Jev nedokáže vytvoriť písaný text – ani jednu vetu. Jeho výstup pozostáva výlučne z čísel s pohyblivou desatinnou čiarkou, ktoré slúžia ako odpovede na otázky áno/nie určené používateľom alebo na požiadavky typu bodovania.

Simon Willison poskytuje stručné zhrnutie toho, čo robí Jev takým zaujímavým: ‘Je to ako mať LLM ako porotcu.’ Tento výstižný opis zdôrazňuje jedinečnú schopnosť modelu robiť rozhodnutia na základe vstupných dát. Myšlienka sa zjavne ujala, keďže mnohí vývojári experimentujú so svojimi vlastnými modelmi rozhodovania a zdieľajú svoje zistenia online.

Kev a Nimble sú dva pozoruhodné príklady týchto lokálnych AI modelov. Nimble je obzvlášť pozoruhodný, pretože je dostatočne malý na to, aby bežal lokálne bez potreby významných výpočtových zdrojov. V skutočnosti bol Nimble nedávno pridaný ako podporovaný model v Ollame, čo ho robí ešte dostupnejším pre vývojárov, ktorí chcú experimentovať s rozhodovacími LLM.

Ak sa vám podarilo úspešne integrovať jeden z týchto lokálnych AI modelov do vášho projektu a chceli by ste sa podeliť o svoje skúsenosti, radi si o tom vypočujeme. Prosím, pošlite svoj príbeh cez našu linku na tipy.