Nový kurz na University of Utah si kladie za cieľ vybaviť študentov zručnosťami potrebnými na orientáciu v zložitom a rýchlo sa meniacom prostredí umelej inteligencie. Kurz, ktorý je súčasťou iniciatívy One-U Responsible AI, bude skúmať etiku okolo návrhu, regulácie a používania AI. Ako sa AI čoraz viac integruje do rôznych aspektov života, obavy o jej vplyv na spoločnosť rastú a tento kurz prichádza v kritickom čase na riešenie týchto otázok.
Nový kurz AI etiky na University of Utahu je spoluvyvinutý docentkou filozofie C. Thi Nguyenom a profesorom Kahlert School of Computing Jeffom Philipsom. Kurz sa bude venovať rôznym témam, vrátane spravodlivosti a diskriminácie pri automatizovanej predikcii, autorstva a vlastníctva v generatívnych médiách, environmentálnych nákladov, nahradenia práce a dopadov na ľudský rozkvet. Študenti sa zapoja do prípadových štúdií, článkov etikov AI a diskusií s cieľom lepšie pochopiť etické aspekty vývoja AI.
Nguyen zdôrazňuje, že superinteligentná zlá AI je len jedným z mnohých problémov súvisiacich s AI. Poznamenáva, že presun pracovných miest, zaujatosti zakódované v systémoch a systémové zaujatosti pri prijímaní AI sú naliehavé témy, ktoré si vyžadujú pozornosť. Kurz sa bude týmito témami zaoberať kombináciou teoretických diskusií a praktických aplikácií, čo umožní študentom rozvíjať zodpovedné prístupy k vývoju AI.
Kurz je určený pre študentov informatiky, ktorí absolvovali CS 1410 alebo CS 1420, ako aj pre študentov filozofie bez predpokladov. Je tiež dostupný ako voliteľný predmet pre každého bakalárskeho študenta a bude povinný pre študentov nového odboru AI od jesenného semestra 2026. Cieľom kurzu je preklenúť priepasť medzi technickou odbornosťou a filozofickými úvahami, pričom uznáva, že etika nie je len sekundárnou témou, ale neoddeliteľnou súčasťou zodpovedného vývoja AI.
Jednou z inšpirácií pre tento kurz bola iniciatíva Embedded EthiCS na Harvarde, ktorá vznikla z žiadostí študentov o väčší dôraz na morálne dôsledky technológií. Univerzita v Utahu prijala podobný prístup tým, že spoluvytvára materiály a vyučuje s filozofmi aj počítačovými vedcami. Táto “agresívna interdisciplinarita” má za cieľ urobiť etiku neoddeliteľnou súčasťou vývoja AI, namiesto toho, aby ju vnímala ako vedľajšiu vec.
Nguyen poznamenáva, že študenti už kladú naliehavé otázky o vplyve AI na spoločnosť. Chcú vedieť, či prílišné spoliehanie sa na automatizáciu povedie k strate morálnych a sociálnych zručností. Trieda preskúma tieto obavy prostredníctvom príkladov z reálneho sveta, napríklad ako strojové učenie bolo použité na predpovedanie úspešných výsledkov študentov na univerzitách, ale nakoniec bolo zaujaté v prospech určitých skupín.
Ďalším príkladom diskutovaným v kurze je prípad COMPAS, kde sa ukázalo, že nástroj na hodnotenie rizík strojového učenia používaný v americkom trestnom systéme bol rasistický, hoci nebol zámerne navrhnutý takto. Nguyen zdôrazňuje, že tieto problémy nie sú len teoretické, ale reálne problémy, ktoré si vyžadujú pozornosť a riešenia. Kurz sa bude venovať konceptu hodnotovo zaťaženosti – technológiám a metódam, ktoré na prvý pohľad pôsobia neutrálne, ale vďaka svojmu dizajnu robia veľmi hodnotovo nabité a politicky nabité rozhodnutia.
Kurz sa tiež zaoberá morálnym a sociálnym odstraňovaním: čo sa stane, keď sa ľudia príliš spoliehajú na automatizáciu a stratia základné zručnosti ako kritické myslenie a počúvanie kritiky. Nguyen používa ChatGPT ako príklad toho, ako sa AI môže používať v terapeutických prostrediach, ale poznamenáva, že jej chýba schopnosť spochybňovať alebo kritizovať, čo je kľúčový aspekt ľudskej interakcie.
Nguyen verí, že zameranie sa výlučne na nebezpečenstvá superinteligentnej AI odvádza pozornosť od naliehavejších problémov, ako je strata pracovných miest a sociálna erózia. Dúfa, že tento kurz inšpiruje študentov navrhovať AI na dobré účely začlenením etiky do vývoja kódu namiesto spoliehania sa len na regulácie alebo medzinárodné dohody.
Nový kurz Etika AI na University of Utah je včasnou reakciou na rastúce obavy o vplyv umelej inteligencie na spoločnosť. Tým, že študentom poskytuje zručnosti potrebné na zvládanie týchto zložitých otázok, kurz má za cieľ inšpirovať dobrotu a citlivosť vo vývoji AI.