Bivši potpredsjednik Deepminda Vinyals kaže da samo-poboljšanje AI-a dolazi, ali neće pokrenuti eksploziju inteligencije

Oriol Vinyals, donedavni potpredsjednik za istraživanje u Google DeepMindu, smatra da je rekurzivno samounapređivanje AI sustava neizbježno, ali sporo – i da do eksplozije inteligencije neće doći. Sada pokreće startup kako bi se uhvatio u koštac s dva najveća uska grla koja to usporavaju.

Nekoliko dana nakon što je napustio Google DeepMind, Oriol Vinyals nastupio je na Agentic AI Summitu 2026 i govorio o rekurzivnom samounapređivanju (RSI), jednoj od najtoplijih tema u AI istraživanju. Objasnio je zašto ne vjeruje da će to dovesti do nagle eksplozije inteligencije. Vinyals je u DeepMindu bio potpredsjednik za istraživanje i radio na projektima poput AlphaStara, AlphaCodea i Geminija.

Napredak u samounapređivanju teško je mjeriti, a još ga je teže ostvariti u praksi, tvrdi Vinyals. AI će određene istraživačke i inženjerske zadatke ubrzati deseterostruko ili više, ali nagli, samoubrzavajući skok inteligencije smatra malo vjerojatnim.

Što uopće znači „unaprijediti samog sebe”?

Prvo pitanje koje Vinyals postavlja jest što bi se točno trebalo unaprijediti. AI sustav ima mnogo sastavnih dijelova i mogao bi mijenjati bilo koji od njih – težine neuronske mreže, podatke za treniranje ili same metode treniranja. Mogao bi prilagođavati upute koje dobiva uz svaki upit ili iznova graditi vanjske alate poput pristupa bazama podataka i izvršavanja koda. Isto tako, mogao bi mijenjati metrike kojima prati vlastiti napredak. Svaka od tih mogućnosti donosi drugačije tehničke i regulatorne izazove.

Da bi se unaprijedio, AI sustav treba obećavajuću ideju, kod koji je implementira, eksperimente koji je testiraju i pouzdan način procjene je li promjena zaista donijela napredak, kaže Vinyals. Na ta dva srednja koraka AI već napreduje, ali osmišljavanje ideja i vrednovanje rezultata i dalje su slabe točke.

Osmišljavanje ideja i vrednovanje rezultata ostaju dva najveća uska grla

Laboratoriji danas samounapređivanje uglavnom mjere neizravno – putem benchmark testova sposobnosti poput SWE-Bench Pro ili ML-Bench, penjući se na ljestvicama i nadajući se da će samounapređivanje iskrsnuti kao nusprodukt. Ti su testovi jeftini i dobro definirani, ali uglavnom pokrivaju implementaciju i eksperimentiranje – dakle korake koji već funkcioniraju.

Tome se pridodaju i stvarni problemi poput overfittinga i manipuliranja sustavom. Vinyals iz godina rada na agentima koji igraju igre zna da sustavi iskorištavaju zadane ciljeve na nepredviđene načine – pobijede sustav bodovanja umjesto da zapravo igraju igru.

Smisleniji benchmarkovi testirali bi samounapređivanje izravno, a prvi takvi počinju se pojavljivati. Sustav dobiva metriku i računalni budžet, a istraživači mjere koliko se sam unaprijedi. Taj je pristup skup jer svaka evaluacija zahtijeva da agent satima radi na zadacima koji su daleko od onoga što je zapravo važno. Vinyals daje primjer: agent optimizira Tetris, dok je pravi cilj automatizirati cijeli istraživački laboratorij i izgraditi najbolji model na svijetu.

Osmišljavanje ideja jednako je nerazvijeno. Dobro istraživanje zahtijeva instinkt za to koje ideje uopće vrijedi slijediti – ono što Vinyals naziva „istraživačkim ukusom”. U treniranju velikih jezičnih modela nitko zapravo nije ozbiljno proučio kako to naučiti.

Vinyals očekuje da će buduće evaluacije mjeriti ne samo koliko se sustav unaprijedio, nego i kako je do toga došao. Kad je riječ o idejama, to znači iste kriterije koje primjenjuju recenzenti na konferencijama: originalnost, elegancija, učinkovitost i dugovječnost tehnike. Dio toga može se kodificirati u pravilima i provjeravati modelima nagrađivanja, a zatim trenirati metodama pojačanog učenja – no to je iznimno teško i tražit će još vremena. Ni ljudski recenzentski procesi nisu jeftini, a ni oni nisu osobito dobri u prepoznavanju izvrsnih ideja.

Vinyals upozorava i na tvrda fizikalna ograničenja. Čipovi ne mogu računati brže nego što im to dopuštaju dizajn i brzina svjetlosti, pa čak i ako AI osmisli bolji algoritam, i dalje je vezan uz sklopovlje na kojem radi. Ljudska izvedba možda je u nekim područjima već blizu gornje granice. Koliko je AlphaGo zapravo dobar u usporedbi s teoretski savršenom igrom Goa? Nitko to ne zna, kaže Vinyals.

Discovery Loop želi automatizirati cijeli istraživački ciklus

Vinyals svoju analizu pretvara u praksu kroz Discovery Loop, startup koji suosniva zajedno s Jeffom Deanom kao izvršnim direktorom, Googleovim Senior Fellowom Sanjayem Ghemawatom i suosnivarom Google Braina Quocom Leom. Tvrtka želi automatizirati cijeli znanstveni ciklus – od postavljanja hipoteza, preko provođenja eksperimenata, do vrednovanja rezultata – uključujući ona dva koraka u kojima AI još zaostaje. Trojica od četvorice osnivača ubrajaju se među najcitiranije AI istraživače, a Ghemawat je jedan od najcitiranijih u području distribuiranih sustava.

Tim planira prvo automatizirati AI istraživanje, pri čemu će Discovery Loop biti vlastiti prvi korisnik, kako je to formulirao Dean. Ostala znanstvena područja slijedit će kasnije. Na stranicama tvrtke osnivači opisuju budućnost u kojoj „šačica ljudi može provoditi znanstvena istraživanja i inženjerske zadatke znatno brže i kvalitetnije nego što to danas čine golemi timovi znanstvenika i inženjera.” Vinyals priznaje da osmišljavanje ideja ostaje najteži dio, pa će u početnoj fazi hipoteze zajedno razvijati ljudi i strojevi.