Prezident Microsoftu varuje, že pravidlá bezpečnosti AI chýbajú

Prezident Microsoftu, Brad Smith, vyjadril obavy z nedostatku regulácie v oblasti umelej inteligencie. V rozhovore pre podcast BBC Big Boss Interview 11. októbra prekvapivo prirovnal bežné produkty ako mlieko a práčky.

Mliečny regál sa nemusí zdať ako zrejmé miesto na diskusiu o bezpečnosti AI, ale ponúka užitočnú analógiu, ako by sa mala regulovať technológia. Smith poukázal na to, že tieto bežné domáce predmety podliehajú prísnejším bezpečnostným pravidlám než čoraz výkonnejšie AI systémy.

Smithove navrhované ochrany idú ďalej než len požiadavka firiem, aby sľúbili, že ich technológia je bezpečná. Chce právne požiadavky, aby spoločnosti hlásili bezpečnostné incidenty a upozorňovali obete, keď nelegálni AI agenti narušia ich systémy. Okrem toho vyzval na “núdzové brzdy”, ktoré by mohli AI systémy pozastaviť alebo spomaliť, ako aj po pravidlách, ktoré určujú, kedy by mali nezávislí hodnotitelia preskúmať novú technológiu pred jej vydaním.

Prezident Microsoftu zdôraznil dôležitosť aplikácie existujúcich poznatkov na reguláciu AI. Poznamenal, že vieme, ako regulovať iné produkty, a navrhol využiť túto odbornosť na vytvorenie účinných bezpečnostných štandardov pre AI. Smithove vyjadrenia odrážajú nedávne varovania Billa Gatesa, ktorý tiež presadzoval silnejšiu ochranu AI.

Nie všetci však súhlasia so Smithovým prístupom. Niektorí odborníci varujú, že spoločnosti môžu podporovať ochranné opatrenia, pričom zároveň usilujú o kontrolu nad tým, ako tieto opatrenia fungujú. Pete Furlong, senior manažér pre politiku a výskum v Centre pre humanitné technológie, povedal Mashable, že snahy o transparentnosť musia byť sprevádzané očakávaniami presahujúcimi tie, ktoré si stanovujú samotné spoločnosti.

Smith naznačil, že Spojené kráľovstvo by mohlo zohrávať kľúčovú úlohu pri vývoji globálnych pravidiel bezpečnosti AI. Poukázal na technickú odbornosť svojho AI Security Institute, ktorý už má prístup k hlavným AI modelom prostredníctvom dobrovoľných dohôd. Inštitút hodnotí ich schopnosti a riziká pred nasadením, čím poskytuje cenné poznatky pre tvorcov politík.