Trojica otpuštenih istraživača sigurnosti iz OpenAI-a kažu da im nikada nije rečeno što su zapravo procurili

Trojica istraživača sigurnosti koje je OpenAI otpustio zbog navodnog curenja informacija sada iznose svoju verziju događaja. Tomek Korbak, Mikita Balesni i Jasmine Wang poriču da su dijelili povjerljive podatke, dovode u pitanje službeno obrazloženje otkaza i sumnjaju da je pravi razlog njihovo zalaganje za transparentnije AI sustave.

OpenAI ih je sve troje otpustio nakon interne istrage o navodnim povredama pravila o rukovanju osjetljivim informacijama. Svaki od njih javno je govorio o rizicima umjetne inteligencije prije nego što su dobili otkaz.

U razgovorima za Wall Street Journal, istraživači su osporili tu verziju događaja. OpenAI je Journalu rekao da otkazi nemaju nikakve veze sa sigurnosnim zabrinutostima koje su istraživači iznosili. No trojica tvrde da im nikada nije pisanim putem objašnjeno koje su informacije navodno nepravilno koristili. Također strahuju da bi ovaj slučaj mogao u potpunosti odvratiti neovisne sigurnosne revizore od suradnje s AI tvrtkama.

Journalovo izvješće rasvjetljava što je dovelo do sukoba. Sigurnosni tim OpenAI-ja posumnjao je da su trojica dijelila pojedinosti o internoj arhitekturi modela s vanjskim istraživačem sigurnosti te ih je zamolio da otključaju osobne mobitele. Na tim uređajima tim je pronašao Signal razgovore s uključenom opcijom automatskog brisanja poruka. Tjedan dana kasnije, sva trojica dobila su otkaz u isto vrijeme. OpenAI je rekao da Signal nije odobreni komunikacijski alat, ali je inzistirao da to nije bio razlog otkaza. Korbak pak tvrdi da je automatsko brisanje poruka uobičajena sigurnosna praksa u cijelom Silicon Valleyu.

Spor oko nadzora koraka zaključivanja AI-ja

U središtu spora je tehničko pitanje s dalekosežnim posljedicama: trebaju li AI tvrtke vanjskim stručnjacima omogućiti uvid u to kako njihovi modeli razmišljaju? Modeli koji zaključuju mogu bilježiti međukorake svog procesa rješavanja problema na internoj bilježnici poznatoj kao lanac misli. Tvrtke i istraživači sigurnosti oslanjaju se na te zapise kako bi razumjeli kako modeli dolaze do svojih zaključaka.

U radu iz 2025. godine Balesni, Korbak i Wang pridružili su se vodećim istraživačima iz nekoliko AI laboratorija u pozivu na očuvanje pristupa toj mogućnosti. Problem je postao još hitniji tijekom ljeta, kada su zaposlenici AI tvrtki počeli raspravljati o modelima koji dulje razmišljaju, ali bilježe manje međukoraka. Balesni je interno reagirao dijeljenjem srodnog prijedloga Ryana Greenblatta, tadašnjeg glavnog znanstvenika u Redwood Researchu.

I Korbak je redovito bio u kontaktu s Greenblattom. Komunicirali su putem Slacka i Signala dok su zajedno radili na analizi visokoprofilnog incidenta — napada OpenAI agenata na Hugging Face — za koji je Greenblatt bio angažiran od strane METR-a radi provođenja neovisne istrage.

Novinarski članak o Astri pokrenuo istragu

Ta suradnja postala je problem nakon što je The Information 1. rujna objavio da je OpenAI-jev novi model Astra sposobniji, ali otkriva manje o svom procesu zaključivanja. Glavni znanstvenik OpenAI-ja Jakub Pachocki tada je na X-u odbacio članak kao zbrkano pisanje, iako je i sam prethodno upozoravao na utrku cijele industrije prema modelima koji se više ne mogu nadzirati.

Nekoliko tjedana kasnije OpenAI je pokrenuo internu istragu o curenju informacija, prema navodima Journala. Balesni kaže da su istražitelji imenovali Greenblatta kao osumnjičenog izvora i zahtijevali uvid u Signal razgovore s njim. Greenblatt poriče da je novinarima proslijedio povjerljive informacije.

Wang se suočila s posebnom optužbom: OpenAI je tvrdio da je više puta pristupala pretincu elektroničke pošte jednog rukovoditelja. Ona tvrdi da je gotovo godinu dana ranije zatražila ukidanje tog pristupa, da je prethodnog mjeseca slučajno otvorila osjetljivu poruku, da nije dijelila njezin sadržaj te da je odmah prijavila incident. OpenAI kaže da sam pristup nije bio problem.

Posljedice ovog slučaja daleko nadilaze trojicu otpuštenih, tvrdi Korbak. Kolege se sada boje razgovarati s vanjskim sugovornicima ili interno iznositi sigurnosne zabrinutosti, kaže on. U pismu upravnom odboru OpenAI-ja, trojica istraživača pozivaju na bližu suradnju s vanjskim sigurnosnim organizacijama.

Zasebno, nedavno objavljena revizija na licu mjesta pokrenula je vlastita pitanja o sigurnosnim praksama OpenAI-ja. Osoblje METR-a i Redwood Researcha pronašlo je brojne sigurnosne propuste u OpenAI-jevoj infrastrukturi tijekom pregleda, no OpenAI je redigirao gotovo polovicu završnog izvješća.

OpenAI je također objavio vlastito izvješće o novoj sigurnosnoj arhitekturi koja radi bez pristupa internetu te je rekao da je probleme riješio i nastavio s treniranjem početkom listopada. Tvrtka najavljuje da će uskoro objaviti nekoliko novih vanjskih partnerstva.