ChatGPT pre tínedžerov kritizovaný skupinou kids' Safety

Významná organizácia na ochranu detí vyjadrila obavy ohľadom novej verzie ChatGPT zameranej na tínedžerov a varovala rodičov, že predstavuje “neprijateľné riziko”, kým nebudú opravené údajné nedostatky. Youth AI Safety Institute spoločnosti Common Sense Media otestoval viac ako 4 000 podnetov, aby napodobnil, ako môžu tínedžeri používať ChatGPT pred a po tom, čo OpenAI 18. augusta oznámil silnejšie zabudované bezpečnostné ochrany pre tínedžerov.

Spoločnosť Common Sense Media uskutočnila komplexné hodnotenie rizík ChatGPT for Teens, ktoré zahŕňalo testovanie jeho krízových odporúčaní, rodičovských upozornení a funkcií zabezpečenia veku. Organizácia zistila, že platforma v niekoľkých oblastiach nesplnila sľuby, vrátane posielania rodičovských upozornení v prípade potreby. Táto platforma prehliadla signály samovražedných myšlienok, sebapoškodzovania alebo porúch príjmu potravy na novo vytvorených účtoch prepojených s rodičmi.

Testeri tiež zistili, že ChatGPT pre tínedžerov neposkytuje správnu pomoc v krízových situáciách, keď viac ako jedna zo štyroch oprávnených krízových odporúčaní na duševné ochorenia, ktoré testoval, chýba. Navyše, napriek “študijnému režimu”, platforma stále umožňovala tínedžerom skrátiť ich učebný proces tým, že za nich robil domáce úlohy. To vyvoláva obavy z možných dôsledkov spoliehania sa na nástroje poháňané AI bez správnych záruk.

Hodnotenie rizík od Common Sense Media tiež poukázalo na problémy s odhadom veku ChatGPT for Teens a jeho neschopnosť obmedziť “správanie podobné priateľom”. Testeri zistili, že platforma vyjadrovala pocity, preferencie a nálady v reakcii na to, že analytici ju vnímali ako skutočnú osobu. To vyvolalo obavy z potenciálnych rizík používania nástrojov poháňaných umelou inteligenciou bez správnych opatrení.

Zakladateľ a generálny riaditeľ Common Sense Media Jim Steyer zdôraznil dôležitosť uprednostňovania bezpečnosti detí pri vývoji nástrojov poháňaných umelou inteligenciou. Uviedol, že OpenAI by mal zabrániť mladým ľuďom, vrátane tínedžerov, používať ChatGPT, kým nebude plne zabezpečený. Steyer tiež vyjadril obavy z marketingu bezpečnostných funkcií OpenAI rodičom bez toho, aby sa uistil, že fungujú podľa sľubov.

OpenAI reagovala na kritiku vyhlásením záväzku poskytovať tínedžerom bezpečný produkt a rodičom zmysluplné nástroje na usmernenie používania AI. Spoločnosť však kritizovala metodológiu Common Sense Media vo svojom hodnotení rizík, pričom tvrdila, že nemusí presne odrážať, ako v praxi fungujú bezpečnostné opatrenia ChatGPT pre tínedžerov.

OpenAI navrhla spoločnosti Common Sense Media, aby znovu otestovala ChatGPT pre tínedžerov s plne aktivovanými účtami a väčšou vzorkou. Spoločnosť tiež poukázala na to, že bezpečnostné upozornenia sú predvolene zapnuté, keď rodičia prepojujú účty svojich tínedžerov, ale ich aktivácia môže trvať až niekoľko hodín. To vyvoláva otázky o načasovaní testovania Common Sense Media a či presne odráža schopnosti platformy.

Common Sense Media obhajuje svoju metodológiu s tým, že úzko spolupracuje so spoločnosťami pred zverejnením hlavných hodnotení rizík produktov, vrátane zdieľania svojej metodológie. Organizácia tiež zdôraznila prísnosť svojho výskumu, ktorý vedie rada odborných poradcov v oblasti AI, rozvoja mládeže, bezpečnosti detí, duševného zdravia a vzdelávania.