Anthropic navrhuje návrh zákona na reguláciu rizík AI na hraniciach

Návrh zákona zameraný na reguláciu bezpečnosti a ochrany pokročilých modelov umelej inteligencie bol súkromne predložený americkým zákonodarcom spoločnosťou Anthropic, ktorá vyvíja AI technológie. Navrhovaná legislatíva by dala vláde právomoc zablokovať zverejnenie alebo použitie AI modelu, ak predstavuje predvídateľné a bezprostredné riziko spôsobenia významnej ujmy. Podľa Politico, ktoré ako prvé informovalo o návrhu zákona, je táto hranica pre zásah stanovená na viac ako 1 miliardu dolárov škody alebo viac ako 50 ľudí zabitých alebo vážne zranených.

Navrhovaná legislatíva by pokrývala rôzne riziká spojené s pokročilými AI modelmi, vrátane tých, ktoré súvisia s biologickými zbraňami, AI modelom, ktorý obchádza bezpečnostné opatrenia vývojárov, a kybernetickými útokmi. V rámci tohto rámca by vývojári pohraničných AI systémov museli testovať svoje modely, zverejňovať ich zistenia a podrobovať ich nezávislým hodnoteniam. To by zahŕňalo pravidelné hodnotenia nezávislými hodnotiteľmi registrovanými na Ministerstve obchodu.

Spoločnosti vyvíjajúce pokročilé AI modely by mohli tieto hodnotenia zaplatiť, ale len v prípade, že odmena nie je viazaná na výsledok hodnotenia. Hodnotitelia, ktorí identifikujú bezprostredné riziko spĺňajúce kritériá stanovené legislatívou, by museli oznámiť Ministerstvo obchodu do 72 hodín od ukončenia hodnotenia. Ministerstvo by potom mohlo požiadať sudcu o pozastavenie modelu, ak zistí, že systém predstavuje potrebnú hrozbu.

Návrh zákona údajne obmedzuje právomoci iných federálnych rezortov, agentúr a vládnych predstaviteľov nezávisle pozastaviť vývoj, nasadenie alebo interné použitie modelu. Federálny sudca na Okresnom súde USA pre District of Columbia by mohol nariadiť pozastavenie modelu. Tento návrh prichádza v čase, keď sa vlády potýkajú s tým, ako regulovať čoraz schopnejšie AI systémy a zároveň vyvážiť bezpečnostné obavy s pokračujúcim technologickým rozvojom.