Brad Smith z Microsoftu vyzýva na prísnejšiu reguláciu AI

Podpredseda a prezident Microsoftu Brad Smith zdôraznil potrebu prísnejšej regulácie umelej inteligencie, pričom uviedol, že je výrazne podregulovaná. V rozhovore pre BBC poznamenal, že súčasné bezpečnostné pravidlá sú prísnejšie pre domáce spotrebiče, ako sú práčky, než pre AI systémy.

Smith dokonca poukázal na to, že aj kartóny mlieka v obchodoch s potravinami podliehajú pravidelným kontrolám a dodržiavaniu prísnych bezpečnostných štandardov. Verí, že to poukazuje na výrazný rozdiel medzi úrovňou dohľadu uplatňovaným na bežné spotrebiteľské produkty a najmodernejšími technológiami, ako je AI.

AI je podľa Smitha cenným nástrojom aj potenciálnou hrozbou, keď zlyhá alebo sa dostane do rúk zlomyseľných rúk. Na zmiernenie týchto rizík odporúča zavedenie “kill switchov”, ktoré je možné aktivovať v núdzových situáciách. To by umožnilo organizáciám rýchlo vypnúť kompromitované systémy a zabrániť ďalšiemu poškodeniu.

Okrem kill switchov Smith odporúča stanoviť jasné požiadavky na hlásenie incidentov pre spoločnosti, ktorých AI bezpečnosť bola narušená. Tiež navrhuje, aby boli obete takýchto incidentov promptne informované o povahe narušenia a akýchkoľvek krokoch na jeho nápravu.

Smithovu výzvu na prísnejšiu reguláciu zopakoval generálny riaditeľ Microsoftu Satya Nadella v nedávnom blogovom príspevku. Nadella zdôrazňuje potrebu dôveryhodnej architektúry v AI systémoch a tvrdí, že spoliehať sa výlučne na uistenia poskytovateľov modelov nestačí. Presadzuje princípy pozorovateľnosti, overiteľnosti a nezávislej auditovateľnosti na zabezpečenie zodpovednosti.

Koncept “Super inteligencie”, ktorý spopularizoval preferovaný termín Donalda Trumpa, Nadella označil za kľúčový aspekt súčasného AI prostredia. Tento názov však vyvolal aj kontroverzie, pričom niektorí kritici tvrdia, že zľahčuje zložitosť a nuansy AI systémov.

Napriek týmto výzvam zostáva Smith optimistický ohľadom potenciálu Spojeného kráľovstva viesť globálne úsilie v oblasti regulácie bezpečnosti AI. Poznamenáva, že krajina je dobre pripravená vďaka svojim silným technickým schopnostiam, čo dokazujú aj organizácie ako AI Security Institute (AISI).

V nedávnom vývoji sa Microsoft pridal k viacerým významným technologickým spoločnostiam a podpísal záväzok spolupráce s nezávislými audítormi na ich AI systémoch. Tento krok však niektorí kritici prijali skepticky, keďže ho považujú skôr za “morálne záväzný” než právne vynútiteľný.

Trumpov postoj k regulácii AI zostáva nejasný, keďže predtým vyjadril neochotu zavádzať prísne kontroly nad odvetvím. Jeho nedávna výzva, aby vývojári AI nezdieľali nevydané systémy s AISI, viedla k dočasnému zákazu britských predstaviteľov skúmať model Claude Mythos 5.1 od Anthropic. Toto obmedzenie však bolo odvtedy zrušené.

Smith verí, že silný postoj k regulácii bezpečnosti AI by mohol byť v USA vnímaný pozitívne a pomôcť ľuďom spojiť sa okolo tejto zásadnej otázky. Zdôrazňuje potrebu pokojných a spolupracujúcich diskusií na riešenie výziev, ktoré prinášajú rýchlo napredujúce technológie AI.

Vedúca úloha Spojeného kráľovstva v oblasti bezpečnosti AI je vnímaná ako potenciálna sila, pričom Smith poznamenáva, že Washington DC vníma Londýn inak ako Brusel. Tento rozdiel by mohol uľahčiť väčšiu medzinárodnú spoluprácu pri regulácii AI systémov.