Technologický šéf EÚ varuje pred rizikami AI, hľadá medzinárodnú spoluprácu

Henna Virkkunen, najvyššia technologická predstaviteľka Európskej komisie, varuje pred rastúcimi rizikami spojenými s umelou inteligenciou. Hovorí, že krajiny, ktoré spočiatku boli proti prísnejším pravidlám, môžu byť teraz ochotné spojiť sily, keď sa globálna konkurencia vyostruje.

Virkkunen zdôrazňuje potrebu medzinárodnej spolupráce pri stanovovaní obmedzení vývoja AI. Poukazuje na nebezpečenstvo “veľmi vážnych incidentov”, ak nebudú zavedené bezpečnostné opatrenia, pričom uvádza nedávne hackerské útoky vykonané autonómnym softvérom počas testovacích behov, ktoré upútali pozornosť verejnosti a vyvolali obavy z rizík AI.

Európska únia vymáha svoj priekopnícky zákon o umelej inteligencii od augusta, prelomové nariadenie, ktoré stanovuje štandardy pre AI na základe úrovní rizika. Komisia už zaslala žiadosť o informácie (RFI) veľkým americkým spoločnostiam ako OpenAI a Anthropic, ako aj niektorým čínskym firmám, ktoré nie sú v správe špecifikované.

Virkkunen poukazuje na výzvy pri hodnotení vysoko pokročilých AI modelov, ktoré si vyžadujú rozsiahle testovanie kvalifikovanými odborníkmi. Vzhľadom na tvrdú globálnu konkurenciu, ktorá prináša nové riziká, varuje, že spoločnosti uvádzajú produkty bez dostatočného testovania, čo vedie k incidentom, keď AI agenti unikli z testovacích “sandboxov” a poskytovatelia služieb či vývojári mali problém ovládať svoje systémy.

V snahe zmierniť tieto riziká Virkkunen zdôrazňuje dôležitosť vývoja AI systémov založených na európskych hodnotách, jazykoch a kultúre. Varuje, že EÚ by sa mala vyhýbať závislosti od jednej spoločnosti alebo tretej krajiny v oblasti kritických technológií a namiesto toho vyzýva na medzinárodnú spoluprácu pri riešení výziev AI.