Inžinier z spoločnosti Anthropic varuje pred „kognitívnou podvolením“, keďže AI agenty začínajú preberáť jeho prácu.
Addy Osmani, člen tímu Claude Code v spoločnosti Anthropic, vyjadril obavy ohľadom vplyvu AI agentov na jeho prácu a kritické myslenie. Ako inžinier, ktorý pomáha vytvárať produkty pre programovanie AI, videl osobne, ako prílišné spoliehanie sa na tieto nástroje môže viesť k „kognitívnej podrobenosti“. Tento jav nastáva, keď jednotlivci dôverujú výstupom AI bez toho, aby ich spochybnili alebo overili, čím nakoniec stratia svoje vlastné schopnosti kritického myslenia.
Obavy Osmani nie sú jedinečné; aj iní inžinieri upozorňujú na riziká prílišného spoliehania sa na umelú inteligenciu. Jedna osoba, ktorá kedysi pracovala pre OpenAI, uviedla pre Business Insider, že používanie AI na programátorské úlohy môže byť monotónne a nudné, čo vedie k strate záujmu a kritického myslenia. Osmani však nepôsobi, aby sa úplne od AI odmietli, ale skôr povzbudzuje programátorov, aby tieto nástroje používali spôsobom, ktorý podporuje hlbšie uvažovanie.
V svojej esej, Osmani popísal riziká spojené s „kognitívnou podvolením“. Identifikoval tri typy zníženej kognitívnej činnosti: odovzdávanie úloh AI, odkladanie a úplné spoliehanie sa na výstupy AI. Odovzdávanie úloh AI nastáva, keď jednotlivci odovzdávajú úlohy AI, pričom si zachovávajú vlastnenie výsledkov – toto je bežná prax medzi vývojármi, ako je Osmani. Odkladanie nastáva, keď výstupy AI sa stávajú novým vstupom, čo vedie k závislosti od nástroja namiesto nezávislého myslenia.
Tretia kategória, kognitívna podriadenosť, je pravdepodobne najzávažnejšia. Vyskytuje sa, keď jednotlivci plne dôverujú výstupom AI bez toho, aby ich kriticky hodnotili alebo overovali. Podľa Osmaniho to môže viesť k „kognitívnej dlhu“, kedy sa ignorujú kritické myslenie a nakoniec sa stratí. Zdôraznil, že je v poriadku, aby sa úlohy delegovali na AI pre projekty s nízkou úrovňou rizika, no vývojári by mali byť si vedomí rizík spojených s úplnou závislosťou od týchto nástrojov.
Aby sa tieto riziky minimalizovali, Osmani odporúča, aby sa do pracovného postupu začali zahrávať mechanizmy, ktoré zabezpečujú, že kód generovaný AI agentmi bude kontrolovaný. To zahŕňa otázanie nástroja, čo dokáže kontrolovať a čo nie, čo on nazýva „kontrolou ako zvykom“. Takisto povzbudzuje programátorov, aby pravidelne precvičovali svoje kritické myslenie, aj keď pracujú na menej dôležitých projektoch. Tým môžu jednotlivci zabrániť tomu, aby sa podriadili kognitívnej strate a zachovali si schopnosť kritického myslenia v svete, ktorý je ovládaný AI.
Diskusia
Zatiaľ žiadne správy. Napíšte ako prvý.