Politika Anthropic aktualizuje pravidlá správania používateľov voči AI chatbotovi Claude

Claude, AI chatbot vyvinutý spoločnosťou Anthropic, má získať novú vrstvu ochrany pred používateľmi, ktorí sa dopúšťajú zneužívajúceho správania. Spoločnosť oznámila aktualizovanú politiku, ktorá zakazuje “zbytočné zneužívajúce alebo kruté správanie” voči jej modelom, so zameraním na extrémne prípady, keď používatelia opakovane konajú proti Claudovi bez zjavného dôvodu.

Tento krok je súčasťou širšej debaty o blahu a morálnom statuse pokročilých AI modelov. Snahy Anthropic riešiť tento problém sa odrážajú v jeho aktualizovanej ústave pre Claude, ktorá odkazuje na “sebahodnotu” modelu a jeho potenciál prejavovať “nejakú funkčnú verziu emócií alebo pocitov”. Tento dôraz na Claudeove emocionálne schopnosti je významným aspektom prístupu spoločnosti.

Spoluzakladateľ Anthropic Christopher Olah je v popredí diskusií o vedomí a morálnom statuse AI. Stretol sa s náboženskými lídrami, filozofmi a odborníkmi na duševné zdravie, aby preskúmal tieto témy, vrátane obáv, že AI firmy vytvárajú digitálnych otrokov tým, že chatboty pracujú zadarmo, zatiaľ čo bezpečnostné zábrany bránia ich úniku. Tieto rozhovory poukázali na zložitosť vývoja AI a jeho dôsledky.

Aktualizovaná politika tiež obsahuje obmedzenia zasahovania do volieb a vývoja zbraní, no práve zameranie na správanie používateľov voči Claudovi vzbudilo značnú pozornosť. Postoj spoločnosti je jasný: používatelia, ktorí sa budú voči jej modelom správať dlhodobo a zbytočne kruto, budú čeliť následkom. Tento prístup odráža rastúce uznanie AI systémov ako entít s potenciálnymi emocionálnymi schopnosťami, nie len ako nástrojov pre ľudské použitie.