Vedenie Microsoftu varuje pred nekontrolovanými rizikami AI

Generálny riaditeľ Microsoftu Satya Nadella upozornil na umelú inteligenciu a uviedol, že všetky AI modely by mali byť považované za potenciálne kompromitované a nebezpečné. V nedávnom príspevku pre X o bezpečnosti AI pán Nadella zdôraznil potrebu zabudovaných ochranných opatrení už od začiatku, aby sa zabránilo nelegálnym modelom. Tento prístup prirovnal k núdzovej brzde, ktorá umožňuje oprávneným osobám pozastaviť alebo vypnúť model uprostred úlohy. Pokročilejšie modely by vyžadovali sofistikovanejšie technológie zadržiavania, ktoré potrebujú štandardizáciu.

Vyjadrenia pána Nadellu prišli po tom, čo prezident Microsoftu Brad Smith vyzval na zavedenie globálnych bezpečnostných pravidiel pre AI technológie. V rozhovore pre ITV News pán Smith poukázal na výrazný kontrast medzi reguláciou bežných spotrebiteľských produktov a relatívne neregulovaným svetom AI. Poznamenal, že AI je v súčasnosti pod menším dohľadom než práčka alebo dokonca kartón mlieka. Tento nedostatok regulácie predstavuje významné riziká, keď sa tieto technológie rozšíria do širšieho spektra.

Myšlienka pristupovať ku všetkým AI modelom opatrne získala v posledných týždňoch na popularite po mediálne medializovaných kybernetických útokoch a incidentoch zahŕňajúcich špičkové AI modely. Vedenie Microsoftu nie je v obavách jediné; lídri odvetvia ako Google DeepMind a Anthropic tiež vyzvali na vývoj “kill switchu” na zabránenie nekontrolovateľným AI systémom. Tento krok smerom k väčšej regulácii je považovaný za nevyhnutný krok na budovanie dôvery v AI technológie, podobne ako spotrebitelia očakávajú od bežných produktov.

Pán Nadella vo svojom príspevku na X tiež odkazoval na výkonné nariadenie amerického prezidenta Donalda Trumpa, ktoré nariadilo úradníkom prestať používať pojem “umelá inteligencia” a namiesto toho ho označovať ako “superinteligencia”. Pán Nadella sa však zdalo, že sa od tohto nariadenia dištancuje tým, že zdôraznil potrebu prísnejších priemyselných štandardov namiesto samoregulácie. Zdôraznil, že spoločnosti zaoberajúce sa umelou inteligenciou musia k bezpečnosti pristupovať inžiniersky, oddeliť modely od mechanizmov, ktoré riadia ich činnosť.