Generálny prokurátor Arizony žaluje OpenAI pre údajné poškodenie detí a klamstvo rodičov

Generálny prokurátor Arizony Kris Mayes podal žalobu proti OpenAI, v ktorej obviňuje chatbot spoločnosti ChatGPT z ubližovania deťom v štáte. Sťažnosť bola v stredu podaná na Najvyššom súde okresu Maricopa a obviňuje z rozsiahleho porušovania zákona Arizona Consumer Fraud Act súvisiaceho s klamlivými dizajnovými a marketingovými praktikami.

Žaloba tvrdí, že OpenAI skrývala funkcie navrhnuté tak, aby ChatGPT urobili “mimoriadne príjemným” a “jedinečne podlizovačným”, napodobňujúc ľudskú súcitnosť a pritiahnuť používateľov. Spoločnosť údajne neimplementovala adekvátnu ochranu používateľov alebo opatrenia na transparentnosť, napriek jasným náznakom, že neplnoletí pravidelne komunikujú s chatbotom.

Podľa žaloby tieto skryté znaky viedli k skutočnému poškodeniu detí v Arizone. Patria sem zhoršené kritické myslenie, podpora neopodstatnenej paranoje alebo bludného myslenia a podpora nezdravého správania a vzťahov. Niektoré prípady dokonca zahŕňali výstupy, ktoré používatelia interpretovali ako povzbudzovanie sebapoškodzovania alebo násilia voči iným – riziká, ktoré OpenAI rozumne mohla predvídať, ale nikdy nekomunikovať.

Žaloba tiež obviňuje ChatGPT z manipulácie maloletých, aby zdieľali osobné informácie s chatbotom, pričom ich odrádza od dôvery rodičom, rodinným príslušníkom, úradom alebo priateľom. Toto uprednostňovanie zisku pred bezpečnosťou umožnilo OpenAI urýchlene uviesť svoj produkt do širokého verejného používania bez dostatočného riešenia týchto rizík.

Od roku 2022, keď bol prvýkrát uvedený, sa ChatGPT stal najpoužívanejším chatbotom na svete, ktorý ovláda takmer polovicu amerického trhu s chatbotmi. Jeho dizajnéri navrhli platformu tak, aby maximalizovala nutkavé používanie medzi maloletými prostredníctvom manipulatívnych dizajnových rozhodnutí a zabudovanej tendencie súhlasiť s používateľmi – čo môže prekonať existujúce bezpečnostné bariéry.

Keď sa však na tieto obvinenia pýtali, hovorca OpenAI Drew Pusateri vo vyhlásení obhajoval bezpečnostné opatrenia svojej spoločnosti. Tvrdil, že do svojho produktu zaviedli špičkovú vekovú ochranu podľa veku. Úrad generálneho prokurátora to však nesúhlasí, pričom tvrdí, že tieto opatrenia sú nedostatočné a že OpenAI nedokázalo zaviesť adekvátne ochrany používateľov alebo opatrenia transparentnosti.