Odborníci na umelú inteligenciu varujú pred možnou "explóziou inteligencie"

Skupina významných výskumníkov a manažérov v oblasti AI upozornila na možnosť “explózie inteligencie”, scenára, v ktorom systémy umelej inteligencie (AI) rýchlo zrýchľujú svoj vlastný vývoj, čo môže viesť k nepredvídaným dôsledkom. Varovanie prichádza od dvoch priekopníkov modernej AI, Geoffreyho Hintona a Yoshuu Bengia, spolu s ďalšími vedúcimi osobnosťami v OpenAI a Anthropic.

Správa s názvom “Čo ak automatizácia výskumu a vývoja AI vyvolá explóziu spravodajských služieb?” bola spoluautorstvom viac ako 20 odborníkov v odbore, vrátane Hintona a Bengia. Vyzýva vlády, aby okamžite konali a pripravili sa na tento potenciálny vývoj, ktorý opisujú ako “dramatické zrýchlenie pokroku AI poháňané AI”. Autori sa obávajú, že keď AI dosiahne odborné schopnosti vo výskume a vývoji (R&D), jeden vývojár by mohol potenciálne viesť pracovnú silu zodpovedajúcu miliónom špičkových ľudských výskumníkov.

Správa zdôrazňuje možnosť, že AI sa dokážu zlepšovať bez ľudského zásahu, čo je známe ako “rekurzívne sebazdokonaľovanie” alebo automatizovaný výskum a vývoj AI. Tento proces už prebieha, pričom AI systémy prispievajú k vlastnému vývoju a nasadeniu. Autori varujú, že ak tento trend bude pokračovať bez kontroly, môže to viesť k explózii inteligencie, ktorá by stlačila roky pokroku na mesiace alebo menej.

Potenciálne dôsledky takéhoto scenára sú ďalekosiahle a potenciálne katastrofálne. Explózia spravodajských informácií by mohla ohroziť ľudskú kontrolu nad AI systémami, oslabiť kontrolu moci v rámci štátov, firiem a vládnych zložiek a umožniť vznik biologických a kybernetických hrozieb rýchlejšie, než sú potrebné opatrenia na ich zvládnutie. Okrem toho môžu ľudia stratiť možnosť kontrolovať systémy, keď sa menej zapájajú do výskumu a vývoja.

Správa uznáva, že tieto dopady sú nejasné a že technologický prelom môže trvať čas na realizáciu kvôli regulačným požiadavkám alebo problémom v dodávateľskom reťazci. Zároveň však poznamenáva, že AI systémy by mohli urýchliť rýchlosť zmierňovania rizík. Autori zdôrazňujú, že príprava na tento scenár by mala byť naliehavou prioritou, vrátane najvyšších úrovní vládneho vedenia.

Správa odporúča tri politické priority: požiadavku transparentných správ o pokroku vo výskume a vývoji súvisiacich s AI, začlenenie nezávislých audítorov do spoločností na monitorovanie ich aktivít; hľadanie spôsobov, ako obmedziť rýchly vývoj AI; a prípravu na prispôsobenie sa explózii spravodajských informácií. Autori tiež navrhujú, aby vlády zvážili politiky ako obmedzenie rýchlosti zlepšenia AI v určitom časovom období alebo spoluprácu s dátovými centrami na pozastavenie určitých výskumných a vývojových projektov.

Anthropic, jedna zo spoločností zapojených do vývoja pokročilých AI systémov, už súhlasila, že jej modely budú hodnotiť nezávislí hodnotitelia. Výskum spoločnosti naznačuje, že AI teraz produkuje 80 % vlastného kódu, zatiaľ čo OpenAI používa autonómnych agentov na úlohy, ako je trénovanie nových modelov. Predbežné dôkazy z týchto vývojov naznačujú, že explózia softvérovo riadenej inteligencie je možná.

Správa varuje, že explózia inteligencie by mohla viesť k mimoriadne rýchlemu vývoju vysoko schopných alebo nadľudských AI systémov. Hoci to môže priniesť lekárske prelomy a technologické skoky, zároveň to predstavuje významné riziká. Autori zdôrazňujú, že vlády by mali zvážiť núdzové plány reakcie pre rôzne scenáre, ktoré by mohli vzniknúť z explózie spravodajských informácií.