Anthropic aktualizuje pravidlá používania prísnejšími pravidlami pre AI model Claude

Spoločnosť Anthropic, ktorá stojí za konverzačným AI modelom Claude, urobila významné zmeny vo svojej politike používania v reakcii na rastúce obavy z nesprávneho zneužívania. Aktualizovaná politika má za cieľ zabrániť zneužívajúcemu alebo krutému správaniu voči Claudeovi a obmedzuje rôzne formy škodlivej činnosti.

Nové pravidlá sú navrhnuté tak, aby riešili vysoko rizikové prípady zneužitia, vrátane zasahovania do volieb, vývoja zbraní, sledovania a zdravotného a finančného využitia. Anthropic zaznamenal viacero pokusov využiť Claude na tieto účely, čo spoločnosť prinútilo zaujať pevnejší postoj k obmedzeniam používania.

Jednou z najvýraznejších zmien je zákaz dlhodobého a zbytočného urážajúceho alebo krutého správania voči Claudeovi. Toto pravidlo platí len v extrémnych prípadoch, keď používatelia opakovane konajú kruto bez akéhokoľvek zjavného zámeru. Anthropic zdôrazňuje, že táto aktualizácia politiky nezahŕňa bežnú frustráciu používateľov, odpor ani testovanie a výskum modelov.

Aktualizovaná politika používania zahŕňa aj nové pravidlá týkajúce sa propagandistických kampaní, sledovania a vývoja zbraní. Konkrétne obmedzuje snahy o zakrytie, kto stojí za správou, alebo zosilnenie obsahu prostredníctvom falošných účtov či príspevkov. Sekcia o voľbách zakazuje klamanie voličov a narušenie volieb, vrátane šírenia dezinformácií o kandidátoch alebo o tom, ako voliť.

Anthropic upresnil svoj postoj k sledovaniu a uviedol, že sledovanie ľudí bez ich súhlasu je zakázané, či už v reálnom čase alebo prostredníctvom analýzy predtým zozbieraných údajov. Claude nemôže byť použitý na rozhodovanie alebo odporúčanie, koho vyšetrovať, zatknúť alebo obviniť v procese presadzovania práva alebo trestnej spravodlivosti.

Politika používania spoločnosti teraz výslovne zakazuje používanie Claude na vývoj zbraní, vrátane softvéru a komponentov, ktoré umožňujú fungovanie zbraní. Toto rozšírenie je reakciou na viaceré pokusy využiť Claude na navádzanie a riadenie zbraňových systémov. Anthropic tiež jasne spravil zákazy sledovania, čo odráža rastúci trend AI laboratórií investujúcich do robotiky a iného hardvéru.

Aktualizovaná politika používania Anthropic môže byť upravená pre zmluvy s niektorými vládnymi zákazníkmi, ak spoločnosť považuje zmluvné obmedzenia používania a príslušné opatrenia za dostatočné na zmiernenie potenciálnych škôd. To odráža predchádzajúce partnerstvá spoločnosti s vládnymi agentúrami, vrátane americkej armády.

Nové pravidlá tiež zdôrazňujú dôležitosť ľudského dohľadu, keď sú AI modely pripojené k hardvéru schopnému spôsobiť zranenie. Kvalifikovaný operátor musí byť schopný pozorovať zariadenie a v prípade potreby ho zastaviť. Hoci Anthropic nešpecifikoval, či musí byť tento operátor človek alebo nie, táto požiadavka poukazuje na rastúci trend AI laboratórií, ktoré investujú do robotiky a iného hardvéru.

Postoj Anthropicu k blahobytu modelov je predmetom diskusií v rámci AI priemyslu. Spoločnosť opakovane skúmala myšlienku, že jej modely môžu byť nejakým spôsobom vedomé, čo vyvolalo diskusiu o možných vnútorných skúsenostiach, vedomí, morálnom statuse a blahobyte. Kým generálny riaditeľ Anthropic Dario Amodei priznal neistotu ohľadom vedomia Claudea, iné spoločnosti zaujali pevnejšie postoje k blahu modelov.