Anthropic navrhuje legislatívu o bezpečnosti AI s prahom škody 1 miliardy dolárov

Kongres USA zvažuje nový návrh od spoločnosti Anthropic, poprednej spoločnosti v oblasti umelej inteligencie (AI), na stanovenie usmernení pre vývoj a nasadenie modelov AI na hraniciach. Navrhovaná legislatíva by umožnila vláde zasiahnuť v prípadoch, keď AI model predstavuje bezprostredné riziko škôd presahujúcich 1 miliardu dolárov alebo úmrtí či vážnych zranení viac ako 50 ľudí.

Podľa zdrojov oboznámených s návrhom Anthropic tento rámec presadzuje už od júna ako súčasť svojho Pokročilého AI rámca. Spoločnosť verí, že tieto politiky sú “rozumné” a mal by ich Kongres realizovať. Podľa navrhovanej legislatívy by vládna intervencia bola obmedzená na prípady týkajúce sa predvídateľnej, bezprostrednej hrozby súvisiacej s vytvorením alebo uvoľnením biologickej zbrane, AI modelom obchádzajúcim kontrolu vývojára alebo kybernetickým útokom.

Návrh vyvolal záujem zákonodarcov, ktorí zvažujú konkurenčné prístupy k regulácii AI na hraniciach. Niektorí odborníci však vyjadrili obavy z možného nadmerného zásahu vlády a potreby prísnejších regulácií. Návrh zákona by tiež predbiehal niektoré štátne zákony týkajúce sa zverejňovania rizík AI, hodnotení tretími stranami a hlásenia kritických incidentov.

Rámec Anthropicu vyžaduje, aby vývojári AI na hranici vykonávali bezpečnostné testy, zverejňovali správy o transparentnosti, stanovovali ochranu oznamovateľov a hlásili kritické bezpečnostné incidenty Ministerstvu obchodu. Nezávislí hodnotitelia registrovaní v Ministerstve obchodu by pravidelne hodnotili modely Frontier a laboratóriá by mohli tieto hodnotenia platiť, pokiaľ platby nie sú viazané na výsledok. Ak hodnotitelia identifikujú “bezprostredné vyčíslované riziko”, musia Ministerstvo obchodu oznámiť do 72 hodín od ukončenia hodnotenia.

Navrhovaná legislatíva vyvolala medzi zákonodarcami debatu o úlohe vlády pri regulácii vývoja AI. Niektorí tvrdia, že návrh zákona nejde dostatočne ďaleko, zatiaľ čo iní veria, že by vláde dal príliš veľkú moc zasahovať do aktivít súkromného sektora. Návrh prichádza po tom, čo Anthropic sám čelil rozsiahlym exportným obmedzeniam počas leta, ktoré dočasne zastavili dva z jeho najpokročilejších modelov.