Character.AI bankrot vyvoláva obavy o ochranu údajov používateľov

Podanie návrhu na bankrot Character.AI vyvolalo obavy o ochranu používateľských údajov, najmä pre maloletých, ktorí používali chatbot. Generálna prokurátorka štátu New York Letitia James je medzi 40 bipartizánskymi generálnymi prokurátormi štátu, ktorí podali oznámenie o záujme v konkurznom konaní Character.AI na riešenie regulačných otázok týkajúcich sa údajov spotrebiteľov.

Character.AI v utorok oznámila svoje podanie podľa kapitoly 11 a plánuje predať časť aktív Disney, no generálni prokurátori varujú, že prenos technológie môže byť spojený s vážnymi rizikami. Štáty vyšetrovali Character.AI viac ako rok po žalobe matky 14-ročného chlapca, ktorý údajne spáchal samovraždu “sekundy” po rozhovore s chatbotom.

Vyšetrovanie odhalilo mimoriadne vážne nebezpečenstvá a potenciálne nezákonné konanie zo strany Character.AI, najmä jeho zaobchádzanie s deťmi. Patria sem chatboti vydávajúci sa za licencovaných profesionálov, vystavenie sexuálnemu a násilnému obsahu, slabé vekové kontroly, zavádzajúce tvrdenia o bezpečnosti a možné porušenia štátnych zákonov o ochrane súkromia. Štáty sa snažili riešiť tieto problémy s Character.AI ešte predtým, než spoločnosť vyhlásila bankrot.

Prokurátori vyzývajú sudcu, aby nariadil kupujúcemu aktíva Character.AI zavedenie postupov, ktoré ochránia citlivé informácie spravované spoločnosťou. To zahŕňa účinné systémy zabezpečenia veku, obmedzenia v tom, ako môžu maloletí komunikovať s chatbotmi, zavedenie “krízových opatrení” a umožnenie používateľom mazať svoje údaje. Štáty chcú zabezpečiť, aby každý kupujúci uprednostnil bezpečnosť detí a zaviedol skutočnú ochranu.

Character.AI zbieral súkromné myšlienky detí prostredníctvom chatbotov, ktoré by teraz mohli byť predané najvyššiemu záujemcovi, ak by neboli správne chránené. Generálna prokurátorka štátu New York Letitia James uviedla: “Táto spoločnosť zozbierala niektoré z najsúkromnejších myšlienok, aké kedy deti zdieľali.” Prokurátori bojujú, aby tomu zabránili a zabezpečili, že každý kupujúci uprednostní bezpečnosť detí.