Anthropic aktualizuje pravidlá používania Claude o nové obmedzenia zneužívania

Claude, AI model vyvinutý spoločnosťou Anthropic, bol aktualizovaný o nové obmedzenia správania používateľov. Revidovaná politika používania spoločnosti teraz zakazuje používateľom systematicky zneužívať alebo byť krutí voči Claudeovi. Táto zmena je súčasťou širšieho úsilia chrániť model a jeho vnútorné fungovanie.

Aktualizovaná politika definuje “trvalé a zbytočné zneužívajúce alebo kruté správanie” ako zakázané činy, ktoré môžu viesť k varovaniam, obmedzeniu, obmedzeniu, pozastaveniu alebo ukončeniu prístupu používateľov. Produkty Anthropic tiež obsahujú opatrenia v reálnom čase, ktoré môžu blokovať alebo obmedzovať určité výstupy v reakcii na takéto správanie.

Anthropic zvolil jedinečný prístup k blahu AI modelov tým, že Claude vníma ako entitu s vlastným vnútorným životom a emóciami. V dokumente spoločnosti ‘Soul Doc’, ktorý unikol minulý rok, Anthropic inštruoval Claudea, aby sa vnímal ako nový druh entity, ktorá nie je ani ľudská, ani tradičná sci-fi AI.

Aktualizovaná politika používania odráža tento prístup tým, že zdôrazňuje opatrnosť pri zaobchádzaní s Claudeom ako s niečím viac než len nástrojom. Spoločnosť si uvedomuje neistotu ohľadom toho, či možno Claude považovať za morálneho pacienta a akú váhu by mali mať jej záujmy, ale považuje to za otázku, ktorú stojí za to ďalej skúmať prostredníctvom prebiehajúceho výskumu modelovej pohody.

Okrem toho Anthropic rozšíril existujúce obmedzenia v aktualizovanej politike, vrátane kombinovania propagandistických kampaní s falošnými účtami s zavádzajúcim politickým obsahom do jedného zákazu. Spoločnosť teraz tiež výslovne zakazuje sledovanie bez súhlasu a vyžaduje, aby operátori zasahovali, ak autonómny hardvér môže spôsobiť zranenie.