Anthropic poskytuje tímu METR prístup k auditným AI modelom a bezpečnostným postupom

Došlo k významnému pokroku v oblasti umelej inteligencie, keď Anthropic poskytol tímu z neziskovej organizácie METR (Machine Intelligence Research Institute) prístup na kontrolu svojich AI modelov a bezpečnostných postupov. Tento krok je súčasťou záväzku Anthropic k transparentnosti a zodpovednosti, ako je uvedené v podpise Dohody Bieleho domu o superinteligencii.

Podľa dohody získalo šesť zamestnancov METR firemný hardvér, kancelárske priestory a prístup k interným nástrojom, čo ich približne radí na úroveň vlastných rizikových tímov Anthropic. Táto úroveň prístupu je pre externých recenzentov bezprecedentná, prekonáva to, čo doteraz získali SecureBio, Accenture a Faculty.

Nie všetky informácie však budú METR sprístupnené. Údaje o zákazníkoch, detaily o architektúre modelu a informácie podliehajúce advokátskemu tajomstvu zostávajú zakázané. Anthropic určil určité preddefinované kategórie, v ktorých môže žiadať cenzury, ale METR môže verejne komentovať, či boli tieto žiadosti oprávnené.

Zistenia auditu budú nezávisle zverejnené METR, čo poskytne nestranné hodnotenie AI modelov a bezpečnostných postupov spoločnosti Anthropic. Tento krok odráža záväzok Anthropic spolupracovať s externými recenzentmi a jeho odhodlanie zabezpečiť zodpovedný rozvoj umelej inteligencie.