Americké univerzity opúšťajú detektory umelej inteligencie kvôli obavám z podvodov s domácimi úlohami

Profesor biológie Timothy Paustian na University of Wisconsin-Madison zápasí s rastúcim problémom: študenti využívajú umelú inteligenciu na dokončenie domácich úloh. Namiesto spoliehania sa na AI detektory však jeho inštitúcia prehodnocuje svoj prístup k vyučovaniu a hodnotiacim metódam.

Použitie veľkých jazykových modelov (LLM) uľahčilo študentom generovať dôveryhodné riešenia písomných úloh v priebehu niekoľkých sekúnd. Štúdie však ukázali, že AI detektory textu sú často nespoľahlivé, čo generuje falošné poplachy, ktoré môžu narušiť dôveru medzi inštruktormi a študentmi.

V jednej úlohe, ktorá mala otestovať schopnosť študentov hodnotiť vedecké argumenty, Paustian vložil skrytý podnet na odhalenie potenciálnych podvodníkov. Ani táto stratégia sa však ukázala ako neúčinná proti súčasným LLM, ktoré takéto podnety ignorujú alebo ich pred odovzdaním práce odstraňujú.

Paustian sa v podstate vzdal tradičných písomných úloh pre nižšie triedy, uznávajúc, že LLM motivujú pedagógov k kreatívnejšej práci pri hodnotení. Verí, že študenti sa musia naučiť kriticky myslieť a preukázať túto zručnosť rôznymi spôsobmi, nielen písomnými úlohami.

Keďže podvádzanie AI sa stáva čoraz rozšírenejším, štyria americkí univerzitní profesori povedali agentúre AFP, že prehodnocujú, ako hodnotiť prácu študentov. Kombinujú domáce písomné úlohy s ústnymi skúškami alebo video debatami, aby študentom sťažili spoliehanie sa na LLM.

Stále viac univerzít buď zakázalo, alebo odrádzalo fakultu od spoliehania sa na AI detekcie ako hlavný dôkaz údajného podvádzania. Detektory môžu byť nedokonalé, niesť riziko falošných poplachov a dokonca diskriminovať nerodených hovoriacich angličtinou.

Falošné obvinenia z podvádzania AI môžu poškodiť akademické výsledky študenta alebo zvrátiť jeho kariérne vyhliadky. V niektorých prípadoch študenti žalovali univerzity, ktoré ich obvinili z podvádzania pri štúdiu. Cornellova univerzita uviedla, že detekčné technológie pravdepodobne neposkytnú funkčné riešenie kvôli ťažkostiam s presným rozpoznávaním obsahu generovaného AI.

Detektory môžu byť tiež neúčinné proti novým “humanizujúcim nástrojom”, ktoré sa objavujú a prepisujú text generovaný AI, aby pôsobil autentickejšie. Výskumníci varujú pred technologickým pretekom medzi vývojármi detektorov a tými, ktorí vytvárajú vyhýbajúce sa LLM.

Nedávny prieskum Americkej asociácie vysokých škôl a univerzít a Elon University zistil, že 95 % vysokoškolských pedagógov sa obáva prílišnej závislosti študentov na AI nástrojoch. Niektorí akademici tvrdia, že táto závislosť môže viesť k “kognitívnej kapitulácii”, kde študenti pri prvom náznaku problémov siahajú po LLM.

Iní však zdôrazňujú potrebu, aby študenti rozvíjali AI zručnosti na zlepšenie efektivity a uspokojenie požiadaviek modernej pracovnej sily. Dekan Harvard College David Deming navrhol akceptovať alebo dokonca podporovať AI v kurzoch založených na písaní ako spôsob, ako sa prispôsobiť meniacim sa vzdelávacím potrebám.

Debata medzi akademikmi poukazuje na výzvy, ktorým univerzity čelia pri riešení podvodov s domácimi úlohami, a zároveň pripravuje študentov na čoraz viac technologicky orientovaný svet.