Prezident Microsoftu vyzýva na urgentnú reguláciu AI a uvádza Spojené kráľovstvo ako lídra

Prezident Microsoftu upozornil na reguláciu umelej inteligencie, pričom tvrdí, že spotrebiteľské produkty ako mlieko a práčky majú väčší dohľad než firmy vyvíjajúce AI. Brad Smith na to poukázal v nedávnom vystúpení v podcaste BBC, kde opísal AI ako “nástroj” aj “zbraň”. Varoval, že jej neregulovaný vývoj predstavuje významné kybernetické riziká pre svet.

Smith zdôraznil, že globálne bezpečnostné pravidlá sú naliehavo potrebné, pričom poukázal na jedinečnú pozíciu Spojeného kráľovstva viesť túto otázku. Inštitút pre bezpečnosť AI v krajine získal v posledných rokoch na význame vďaka prístupu k hlavným modelom z amerických laboratórií pred nasadením. Táto pozícia je ohrozená po varovaní amerického prezidenta Donalda Trumpa pred “globalistickými” organizáciami.

Napriek Trumpovmu odporu zostáva Smith presvedčený, že Spojené kráľovstvo dokáže efektívne regulovať AI, pričom poukazuje na svoj odlišný vzťah s Bruselom a Washingtonom D.C. Verí, že tento rozdiel v perspektíve by mohol byť pre krajinu výhodou. Prezident Microsoftu tiež ocenil britský AI Security Institute ako lídra v testovaní bezpečnosti AI.

Nedávne stretnutie v Bielom dome medzi technologickými lídrami a Trumpom vyvolalo debatu o dobrovoľnej samoregulácii verzus prísnejšom dohľade. Smith vníma podpísaný “morálne záväzný” dokument ako krok vpred, no tvrdí, že nedosahuje to, čo je potrebné na zabezpečenie bezpečnosti AI. Zdôraznil, že spoločnosti s pochybnou etikou majú väčšiu tendenciu takéto dohody ignorovať.

Smith načrtol niekoľko kľúčových regulácií, ktoré by podľa neho mali byť zavedené, vrátane povinných upozornení pre organizácie, ktorých systémy boli kompromitované neposlušnými AI agentmi. Podporuje tiež myšlienku, že externí hodnotitelia schvaľujú AI produkty pred uvedením na trh a používanie “kill-switchov” na pozastavenie alebo spomalenie AI, ak ľudia stratia kontrolu. Prezident Microsoftu dúfa, že jeho spoločnosť môže zohrávať úlohu pri zjednocovaní ľudí v tejto otázke.