AI-poháňaný filter obťažovania na Reddite pomáha moderátorom

Redditori, ktorí moderujú komunity, teraz dostávajú veľmi potrebnú pomoc priamo od Redditu. Platforma práve spustila nástroj poháňaný umelou inteligenciou, ktorý pomáha odhaliť a filtrovať online obťažovanie na svojej stránke.

Táto nová funkcia, ktorá využíva dáta získané z akcií moderátorov a tímov pre presadzovanie práva, je navrhnutá tak, aby pomohla moderátorom identifikovať potenciálne obťažujúci alebo nevhodný obsah v ich komunitách. Keď AI systém označovania odhalí problematický príspevok alebo komentár, upozorní moderátorov, aby ho mohli skontrolovať a v prípade potreby konať.

Podľa slov samotného Redditu bol Veľký jazykový model (LLM) za týmto nástrojom trénovaný na viac ako 340 slovách dát z akcií moderátorov a interných nástrojov na presadzovanie predpisov. Tento tréning umožňuje AI presne odhaliť obťažovanie aj v prípadoch, keď obsah nemusí priamo porušovať pravidlá Redditu.

Nová funkcia je súčasťou širšieho úsilia Redditu o vylepšenie svojich nástrojov na moderovanie a podporu svojich moderátorov. V posledných mesiacoch zaviedli niekoľko aktualizácií zameraných na uľahčenie života používateľom a riešenie otázok bezpečnosti online.

Na zapnutie filtra proti obťažovaniu musia moderátori postupovať podľa týchto krokov: používatelia na desktopoch by mali ísť na stránku O nás vo svojej komunite, kliknúť na ‘Mod Tools’ a potom prepínať filter na obťažovanie. Používatelia iOS a Android ho nájdu tiež v sekcii Mod Tools – stačí hľadať nastavenia Bezpečnosť.

Redditori majú dve možnosti, pokiaľ ide o filtrovanie obťažovania: môžu zvoliť Nízku, ktorá je menej dôkladná, ale presnejšia; alebo Vysokú, ktorá zachytí veľa obsahu, ale môže zachytiť niektoré falošné pozitíva. Reddit odporúča používať Vysokú v komunitách s množstvom obťažujúcich príspevkov.

Aj keď automatické odstraňovanie administrátorov bude naďalej prebiehať ako obvykle, filter poháňaný umelou inteligenciou dáva moderátorom ďalší nástroj na sledovanie správania komunity a riešenie prípadných problémov skôr, než sa vymknú spod kontroly.