Matematici majú problém pochopiť najnovšie vydanie OpenAI

Matematika Hemathematicky je táto oblasť otrasená po tom, čo OpenAI zverejnilo takmer 400 výsledkov generovaných AI vo viac ako 700 rukopisoch. Obrovský rozsah tejto záplavy je ohromujúci, pričom matematici majú problém všetko spracovať v krátkom čase.

Vydanie pokrýva rozmanité matematické disciplíny, vrátane kombinatoriky, geometrie, teórie čísel, teoretickej informatiky, algebry, topológie, pravdepodobnosti a štatistickej mechaniky a matematickej fyziky. Modely OpenAI produkujú matematiku neuveriteľnou rýchlosťou, čo výrazne prevyšuje kapacitu jej ľudského personálu na riadne preskúmanie zistení.

Mnohí matematici majú obavy o kvalitu výsledkov, niektorí ich opisujú ako “neplechu” – nekvalitný, často chybný AI generovaný materiál, ktorý je na internete čoraz bežnejší. Tento termín vytvorili vedci, ktorí v posledných rokoch zaznamenali obrovský nárast takéhoto materiálu vytvoreného pomocou nástrojov ako ChatGPT a Claude.

Álvaro Lozano-Robledo, profesor matematiky na University of Connecticut, povedal, že prejsť približne 40-stranový obsah a abstrakty mu zabralo takmer hodinu. “Len prejsť celý zoznam abstraktov je ohromujúce,” poznamenal.

Obrovské množstvo práce sťažuje aj predbežné hodnotenie toho, čo presne OpenAI vydala. Výskumníci majú problém odlíšiť riešenia od odpadu, pričom mnohí sa obávajú, že niektoré výsledky môžu byť nesprávne alebo neúplné.

Modely OpenAI boli formalizované v Lean, programovacom jazyku a asistentovi dôkazov, ktorý umožňuje výpočtovú verifikáciu výsledkov. Avšak miera, do akej bol každý výsledok overený, sa veľmi líši, pričom OpenAI priznáva, že výsledky sú “v rôznych štádiách overovania” na GitHube.

Spoločnosť uviedla, že len 300 hlavných výsledkov zo 719 rukopisov bolo formalizovaných, približne 42 percent. Tiež poznamenala, že repozitár bude aktualizovať o ďalšie formalizácie, keď ich získajú. Niekoľko matematikov sa však sťažovalo na nedostatok formalizácie, najmä vzhľadom na obrovské množstvo výsledkov.

Kevin Buzzard, profesor matematiky na Imperial College London, povedal, že identifikoval množstvo vet vo svojej oblasti práce – algebraickej teórii čísel – ale len asi šesť z nich okamžite “vyniklo”. Len málo, ak vôbec nejaké, z nich sa zdalo byť formálne overené v Lean. Vyjadril obavy, že bude musieť čítať možno nesprávne nesprávne tvrdenia alebo čakať, kým to urobia aj ostatní.

Buzzardove obavy zdieľalo aj mnoho ďalších výskumníkov, ktorí sa obávajú materiálov generovaných AI, ktorý je na internete čoraz bežnejší. Zaznamenali obrovský nárast takéhoto materiálu vytvoreného pomocou nástrojov ako ChatGPT a Claude, ktoré často prejavujú len malé porozumenie danej téme.

Niektorí výskumníci pre The Verge povedali, že si všimli články, ktoré sa zdali pokrývať témy, ktoré už prešli iní matematici, hoci boli opatrní, aby to verejne neoznámili pred preštudovaním materiálu. Iní poukázali na nezvyčajnú stručnosť práce, s výsledkami stlačenými do niekoľkých desiatok strán alebo menej.

Nalini Joshi, profesorka matematiky na Univerzite v Sydney v Austrálii, povedala, že jej rýchle vyhľadávanie v tejto správe odhalilo len málo toho, čo by sa prekrývalo s jej vlastnou prácou. Avšak poznamenala, že niektoré články mali krátke bibliografie a bola “opatrná” ohľadom pripisovania v článkoch, ktoré môžu postrádať úplný príbeh.

Napriek neistote a neprehľadnosti panuje medzi matematikmi všeobecný konsenzus, že vydanie obsahuje skutočne pôsobivú prácu. Pri zdôrazňovaní ťažkostí pri hodnotení objemu materiálu – a potrebe riadneho overenia výsledkov – vedci uviedli, že práca sa javí ako veľmi vysokej kvality, napriek nedostatkom v prezentácii.

Niektorí výskumníci opisovali články ako “ťažké” alebo “prakticky nemožné” na sledovanie. Brendan Hassett, profesor matematiky na Brownovej univerzite, povedal pre The Verge, že by už netrávil čas snažením sa pochopiť niektoré výsledky, keby ich napísal človek.

Stanfordský matematik Jared Duker Lichtman povedal, že existuje “desiatky” výsledkov, ktoré by zaradil do tejto kategórie, vrátane pokroku smerom k Riemannovej hypotéze a riešení hlavných problémov, ako je štvorrozmerná Kakeyova hypotéza. Ide o významné úspechy, ktoré by si zaslúžili publikovanie v popredných časopisoch a zabezpečili akademickú kariéru ich autorom.

Matematici naprieč odborom zápasia s prostredím, ktoré sa okolo nich náhle zmenilo. Mnohí len sledovali, ako roky práce vyprchali zo dňa na deň, alebo poznali kolegov, ktorí to urobili. Narušenie je silne sústredené v niektorých oblastiach odboru, najmä v pravdepodobnosti, kombinatorike a teoretickej informatike.

Niektorí výskumníci vyjadrili prekvapenie, ako málo sa ich vlastná práca zdala byť ovplyvnená vydaním OpenAI. Roney-Dougal povedala, že jej časť odboru – prevažne zameraná na teóriu grup – vyviazla relatívne bez ujmy. Avšak žartovala, že je šťastie, že pracuje v “veľmi nemodernej oblasti”.

OpenAI vedela, že jej vydanie bude rušivé, a preto sa snažila zmierniť situáciu zapojením matematickej komunity prostredníctvom Poradnej skupiny pre matematiku a umelú inteligenciu (AGMAI). Spoločnosť sa riadila niektorými odporúčaniami AGMAI, vrátane zverejnenia výrazne väčšieho množstva informácií o svojom modeli a poskytovania financií na workshopy a konferencie.

Zverejnenie vyvolalo medzi matematikmi rôzne reakcie. Niektorí sú nadšení z vyhliadky na nové objavy, zatiaľ čo iní sa obávajú dopadu na ich vlastnú prácu a kariéru. Ako poznamenal jeden výskumník, “nejde len o samotnú matematiku – ide aj o to, ako robíme výskum.”