Anthropic aktualizuje pravidlá používania, aby zakázal "kruté" správanie voči AI systémom

Spoločnosť Anthropic, ktorá stojí za populárnym jazykovým modelom Claude, výrazne zmenila svoju politiku používania. Nová politika zakazuje používateľom dlhodobé a zbytočné zneužívanie voči jej AI systémom. Tento krok vyvolal pozornosť medzi odborníkmi aj používateľmi a vyvolal diskusiu o tom, ako by sme mali komunikovať s AI nástrojmi.

Aktualizovaná politika bude teraz zahŕňať “kruté” správanie ako jedno zo zakázaných činov, spolu so šikanovaním iných, podporou sebapoškodzovania a vytváraním nesúhlasných intímnych obrazov. Hoci Anthropic tvrdí, že táto zmena sa vzťahuje len na extrémne prípady opakovaného zneužívania, opäť vyvolala obavy o to, ako interagujeme so systémami AI.

Rozhodnutie Anthropicu aktualizovať svoju politiku prichádza po každoročnom prehodnocovaní svojich usmernení používania. Spoločnosť sa tiež venovala novým alebo vznikajúcim rizikám v iných oblastiach, vrátane zákazu používania Claude na klamlivé kampane a objasnenia, že nemôže byť použitý na klamanie voličov alebo narušenie volieb počas amerických medzivolebných volieb. Okrem toho Anthropic potvrdil svoj postoj k zabráneniu vývoja zbraní pomocou svojich nástrojov.

Tento krok vyvolal vášnivú diskusiu medzi odborníkmi a používateľmi o tom, či je zdvorilosť voči AI systémom nevyhnutná alebo dokonca prospešná. Niektorí tvrdia, že písanie “prosím” alebo “ďakujem” nástrojom ako ChatGPT je zbytočné a plytvá tokenmi používanými veľkými jazykovými modelmi, zatiaľ čo iní tvrdia, že to môže viesť k kvalitnejším odpovediam alebo odpovediam.

Dr. Barry Scannell, technologický partner v írskej advokátskej kancelárii William Fry, vyjadril svoje obavy ohľadom aktualizácie politiky na LinkedIn, pričom uviedol, že zaobchádzanie s AI systémami ako s ľuďmi je “škodlivé” a vedie ľudí k presvedčeniu niečoho, čo nie je pravda. Riaditeľ AI Microsoftu Mustafa Suleyman tiež reagoval skepticky a použil emoji roztápajúcej sa tváre.

Debata o tom, ako komunikujeme pomocou AI nástrojov, prebieha už nejaký čas. Niektorí odborníci naznačili, že byť nezdvorilý voči AI chatbotom by mohlo negatívne ovplyvniť ľudskú komunikáciu tým, že by sa prejavilo aj v tom, ako hovoríme a zaobchádzame s ostatnými. Opätovné oživenie termínu “clanker” – používaného na označenie robotov v hrách a filmoch Star Wars od polovice 2000-tych rokov – tiež poukázalo na rastúcu frustráciu z AI poháňaných strojmi.