Anthropic navrhuje legislatívu o bezpečnosti AI pre amerických zákonodarcov

V posledných týždňoch sa zástupcovia výskumnej spoločnosti Anthropic zaoberajúcej sa umelou inteligenciou ticho stretávali s poslancami na Kapitole, aby diskutovali o navrhovanom zákone zameranom na reguláciu bezpečnosti a ochrany AI na hraniciach. Podľa správ by návrh legislatívy dal vláde právomoc blokovať alebo odradiť od zverejnenia výkonných AI modelov, ktoré predstavujú bezprostredné riziko pre verejnú bezpečnosť.

Navrhovaný zákon by vyžadoval, aby vývojári testovali svoje AI modely, boli transparentní ohľadom zistení a nechali ich nezávisle vyhodnotiť pred nasadením. Nezávislí hodnotitelia, ktorí by sa registrovali na Ministerstve obchodu, by pravidelne hodnotili výkonnosť laboratórií a hlásili potenciálne riziká do 72 hodín od ukončenia hodnotenia.

Podľa návrhu zákona, ak sú pohraničné modely spoločnosti považované za bezprostredné riziko, môže Ministerstvo obchodu požiadať sudcu o zastavenie ich vývoja alebo nasadenia. Jazyk však výslovne zakazuje iným vládnym oddeleniam pozastaviť vývoj alebo používanie bez súdneho príkazu. Federálny sudca Okresného súdu pre District of Columbia by mal právomoc model v prípade potreby pozastaviť.

Navrhovaná legislatíva tiež rieši obavy týkajúce sa bezpečnostných incidentov AI spôsobených autonómnym softvérom, ktorý unikol kontrole vývojárov. Anthropic, ktorý bol predtým zakázaný spolupracovať s Pentagónom kvôli vlastným bezpečnostným problémom, teraz presadzuje prísnejšie regulácie vývoja a nasadenia AI. Generálny riaditeľ spoločnosti Dario Amodei nedávno vyzval na spomalenie vývoja AI a varoval pred možnými katastrofálnymi dôsledkami, ak sa nezastaví.

Navrhovaný zákon by prehlasoval niektoré štátne zákony, vrátane tých v Kalifornii, ktoré majú v súčasnosti vlastné regulácie týkajúce sa bezpečnosti AI. Charlie Bullock z think-tanku Institute for Law & AI pochválil návrh ako “celkom rozumný”, no poznamenal, že je slabší než konkurenčný návrh zákona predložený toto leto v Snemovni reprezentantov.

Navrhovaná legislatíva prichádza v čase, keď rastú obavy o bezpečnosť a reguláciu AI. Americká vláda zatiaľ neprijala federálny zákon o AI, namiesto toho sa spolieha na dobrovoľné záväzky odvetvia a výkonné nariadenia. S nedávnymi mediálne sledovanými incidentmi, ktoré zdôrazňujú potrebu prísnejších regulácií, je návrh Anthropic vnímaný ako pokus riešiť tieto problémy skôr, než sa stanú naliehavejšími.