Anthropic radi na sustavu za dokazivanje identiteta AI modela

Anthropic radi na sustavu otvorenog koda koji bi trebao omogućiti provjeru kojim je AI modelom generiran određeni rezultat, prema objavi na blogu objavljenoj u utorak. Sustav, nazvan FlashProve, osmišljen je kako bi pružio ono što istraživači nazivaju „dokazivim zaključivanjem” — kriptografski dokaz, u biti matematičko jamstvo, da određeni rezultat potječe od konkretnog modela. Cilj je korisnicima omogućiti da provjere je li odgovor koji su dobili zaista stigao od modela za koji misle da ga koriste.

Slično kao što kriptografski potpisi e-pošte primatelju potvrđuju da je poruka zaista stigla od navedenog pošiljatelja, FlashProve bi bio otporan na lažno predstavljanje — čak i kada se iza njega krije sam laboratorij koji je model izgradio i koji njime upravlja. Istraživači posebno ističu da bi se sustav mogao koristiti kako bi se spriječilo AI tvrtke da potajno zamijene skuplji model jeftinijim radi uštede troškova, ili obrnuto — da podmetnu skuplji model kako bi napuhale rezultate.

FlashProve bi se mogao koristiti i za provjeru tvrdnji trećih strana da je određeni zadatak obavio napredni model. „Programer bi mogao tvrditi da je njegova softverska biblioteka pregledana za ranjivosti pomoću vrhunskog modela za kibernetičku sigurnost, ili bi neka tvrtka mogla tvrditi da je njezin poslovni plan odobrio odgovarajući model”, pišu istraživači. „Kako korisnik može provjeriti te tvrdnje?”

Da bi sustav funkcionirao, AI laboratoriji morali bi za svaki objavljeni model javno objaviti svojevrsni „otisak prsta” koji se naknadno može usporediti s konkretnim rezultatima i kriptografski verificirati. Ključno je da ti otisci ne otkrivaju težine modela — interne numeričke parametre koji definiraju njegovo ponašanje, a koje komercijalni proizvođači poput Anthropica i OpenAI-a čuvaju kao poslovnu tajnu. To znači da bi laboratoriji mogli objaviti otiske bez odavanja svog najvrjednijeg resursa, što sustav čini primjenjivim i na komercijalne modele. Sustav je uz to dizajniran da bude što lakši, pa bi se provjera mogla obavljati i na lokalnom uređaju.

Uz objavu, istraživači su predstavili detaljnu tehničku specifikaciju i radni kod za različite dijelove sustava, koji je javno dostupan pod licencom otvorenog koda na GitHubu. Istraživanje je još u tijeku, a zasad nema planova za primjenu sustava u Anthropicu ni u bilo kojem drugom laboratoriju.

„Ovaj istraživački post namijenjen je dijeljenju međurezultata, a ne prikazu dovršenog istraživačkog projekta”, objašnjavaju istraživači u objavi. „Dijelimo ga s izričitom nadom da će drugi pogledati što smo napravili, preuzeti to i unaprijediti.”