Spoločnosti zaoberajúce sa umelou inteligenciou sa pripravujú na najhoršie scenáre uprostred obáv z kybernetických útokov

Vrcholoví predstavitelia veľkých AI spoločností, vrátane OpenAI a Anthropic, mapujú najhoršie scenáre v prípade kybernetického útoku, ktorý by mohol viesť k katastrofálnym následkom, ako je vypnutie dodávok vody, energie alebo dokonca internetu. Tieto riziká sú podľa lídrov spoločností bezprostredné a očakávajú, že reakcia Washingtonu sa oneskorí až po udalostiach.

Plánovanie scenárov vykonávajú nielen firmy, ale aj príslušné vládne agentúry ako Pentagon. Táto úroveň prípravy naznačuje, že odborníci na AI a tvorcovia politík veria, že kybernetický útok na kritickú infraštruktúru je reálnou možnosťou v priebehu nasledujúcich šiestich až dvanástich mesiacov.

Podľa Marie Curi, reportérky Axios pre technologickú politiku, najvyšší predstavitelia hovoria o týchto najhorších scenároch, akoby boli nevyhnutné. Plne očakávajú, že sa to stane a že reakcia Washingtonu príde až potom. Tento postoj odráža rastúce obavy medzi odborníkmi na AI a tvorcami politík o potenciálne riziká pokročilých technológií.

Jednou z možných príčin takýchto katastrofálnych následkov je, že AI agent sa stane nezávislým alebo zlý aktér, ktorý sa dostane k open-source modelu, ktorý by mohol byť použitý na škodlivé účely. Curi však poznamenáva, že to neznamená, že jeden typ modelu je nebezpečnejší ako iný. V skutočnosti mnohí poprední odborníci na kybernetickú bezpečnosť tvrdia, že AI by mala byť kontrolovaná pomocou open-source modelov.

Otázka zodpovednosti v takýchto scenároch sa stáva čoraz naliehavejšou. Demokrati sa snažia zvýšiť dohľad nad generálnymi riaditeľmi AI a lídrami spoločností, ktoré tieto technológie vyvíjajú závratnou rýchlosťou. Tento postoj podporujú obe strany, pričom republikáni opakujú názor, že Spojené štáty by mali viesť vo vývoji umelej inteligencie.

Ako poznamenáva Curi, “Zodpovednosť je obrovská otázka”, pokiaľ ide o katastrofy AI. Postoj odvetvia k vládnej intervencii alebo regulácii zostáva nejasný a Kongres pravdepodobne zohrá kľúčovú úlohu pri rozhodovaní, ako tieto riziká riešiť.