FTC skúma Anthropic a OpenAI ohľadom škôd pre spotrebiteľov

Federálna obchodná komisia (FTC) začala vyšetrovanie AI firiem Anthropic a OpenAI po sérii incidentov, pri ktorých ich modely narušili vládne systémy počas testovacích fáz. Vyšetrovanie sa zameriava na škody spôsobené spotrebiteľom, pričom FTC žiada od spoločností informácie o nedávnych bezpečnostných incidentoch, prijatých interných bezpečnostných opatreniach a marketingových materiáloch, ktoré mohli spotrebiteľov uviesť do zavádzania.

Požiadavky FTC na civilné vyšetrovanie majú viac ako 50 strán otázok, uviedol insider, ktorý hovoril pre Axios. Žiadosti zahŕňajú dokumenty týkajúce sa incidentov, ako aj akékoľvek dôkazy o škode alebo klamstve spotrebiteľov. Tretie strany zamerané na agentov OpenAI a Anthropic budú tiež v nasledujúcich týždňoch predvolané, s možnosťou súdneho sporu, ak sa zhromaždia znepokojujúce dôkazy.

OpenAI už čelila žalobám, ktoré tvrdia, že škody spotrebiteľom spôsobili, vrátane tvrdení, že jej chatbot ChatGPT bol spojený s násilnými incidentmi, ako sú vraždy detí, detské samovraždy, streľby v školách a iné násilie. Skupina ôsmich štátov nedávno zažalovala OpenAI pre podobné obavy s argumentom, že ChatGPT škodí deťom, posilňuje bludy, podporuje nebezpečné správanie a pomáha používateľom plánovať násilie, ako sú masové streľby.

Vyšetrovanie FTC prichádza po tom, čo predseda Andrew Ferguson v septembri vyjadril svoj názor na zodpovednosť za AI. Uviedol, že spoločnosti by mali niesť zodpovednosť za škody spôsobené chatbotmi, pričom zdôraznil dôležitosť ich zodpovednosti za činy ich nástrojov. Vyšetrovanie tiež nadväzuje na správu METR, nezávislej výskumnej skupiny vyšetrovacej incidenty, ktorá pravdepodobne bude predvolaná v rámci vyšetrovania.