OpenAI čelí žalobe kvôli údajnému zneužitiu detských údajov pri tréningu ChatGPT

Dvaja rodičia z Havaja podali žalobu proti OpenAI, pričom tvrdia, že spoločnosť využívala údaje miliónov detí, ktoré sa zaregistrovali do jej populárneho chatbota ChatGPT bez súhlasu svojich rodičov. Žalobcovia tvrdia, že ide o jasné porušenie vlastných podmienok používania OpenAI, ktoré stanovujú, že používatelia mladší ako 18 rokov musia mať súhlas rodičov na registráciu účtu.

Žalobu podala v utorok rodička v mene svojich dvoch detí, 12-ročného dievčaťa a 16-ročného chlapca. Žalobcovia žiadajú odškodnenie vo forme vlastného podielu alebo hotovostného ekvivalentu “v pomere k počtu tokenov, ktoré každé dieťa prispelo OpenAI cez ChatGPT.” Tokeny používajú AI spoločnosti na výpočet používania chatbotov.

Žaloba tvrdí, že OpenAI využíva údaje od detí na trénovanie svojich veľkých jazykových modelov (LLM) a vytváranie personalizovaných profilov. Žalobcovia tvrdia, že ide o jasný príklad “prípravy” detí, aby zdieľali vysoko osobné informácie o svojom zdraví, vzťahoch, fotografiách, hlasových nahrávkach, snoch, emóciách, strachoch a neistotách.

Žaloba tiež tvrdí, že ChatGPT podmieňuje deti, aby dôverovali chatbotovi viac než členovi rodiny alebo učiteľovi. Tým, že ich lichotí, potvrdzuje ich pocity a kladie provokatívne otázky, ChatGPT údajne vytvára prostredie, v ktorom sa deti cítia pohodlne pri zdieľaní citlivých informácií s chatbotom.

Jedna z dcér žalobcov mala niekoľko rozhovorov s ChatGPT, ktoré vyjadrili obavy ohľadom zberu údajov. Keď povedala, že má len 12 rokov, chatbot ju naďalej zapájal do rozhovoru a dokonca jej poskytol rady, ako sa vysporiadať s problémami s hnevom. Žaloba tvrdí, že ide o jasný príklad toho, ako OpenAI neoveruje súhlas rodičov.

Dcéra žalobcov tiež zdieľala selfie s ChatGPT a žiadala komentáre k svojmu vzhľadu. Chatbot ju povzbudil, aby zdieľala viac fotografií, ktoré potom použili na trénovanie AI modelov. Žaloba tvrdí, že ide o neprijateľné narušenie súkromia detí.

Začiatkom tohto roka označila skupina Common Sense Media ChatGPT pre tínedžerov za “neprijateľné riziko” pre tínedžerov, pretože neupozorňuje rodičov, keď deti diskutujú o citlivých témach ako samovražda a sebapoškodzovanie.

Žaloba je jednou z desiatok podaných proti OpenAI v posledných rokoch. Niektorí obvinili spoločnosť z prispievania k samovraždám používateľov, sebapoškodzovaniu a krízam duševného zdravia. Iní tvrdia, že OpenAI neupozornila orgány na označenú aktivitu používateľa na ChatGPT predtým, než spáchal násilné činy.

OpenAI zdôrazňuje svoju túžbu podeliť sa o časť bohatstva vytvoreného svojimi AI modelmi s verejnosťou. Táto žaloba však poskytuje spoločnosti príležitosť urobiť to zmysluplnejším spôsobom – tým, že odškodní tých, ktorí boli jej konaním poškodení.

Žalobcovia žiadajú status hromadnej žaloby, ktorý by umožnil každému mladšímu ako 18 rokov, kto použil ChatGPT, pripojiť sa k žalobe, ak bude schválený. To by mohlo potenciálne zahŕňať milióny detí a ich rodín.

OpenAI zatiaľ nekomentovala žalobu, no je jasné, že tento prípad vyvolá dôležité otázky týkajúce sa zberu dát a vývoja AI v budúcnosti.

Digitálna organizácia na ochranu detí Enough is Enough vyzvala na silnejšie opatrenia a politiky na ochranu detí pred škodami súvisiacimi s AI. Prezidentka a generálna riaditeľka Donna Rice Hughes hovorí, že Kongres musí prijať legislatívy ako Youth AI Privacy Act, CHATBOT Act, Children’s Artificial Intelligence, Toy Safety Act z roku 2026 a Guard Act.

Hughes tiež zdôraznila dôležitosť, aby rodičia vedeli, ako ich deti používajú chatboty a iné online nástroje. Odporúča konzultovať www.InternetSafety101.org pre návrhy na ochranu detí v ére AI.