Google kaže da AI koji se sam poboljšava nije ni blizu

Googleov inženjer Haydn Belfield tvrdi da je umjetna inteligencija koja sama sebe unapređuje još daleko, unatoč tome što je značajna automatizacija već u tijeku.

Prema Belfieldu, u Google Deepmindu dosad nije zabilježeno mjerljivo ubrzanje istraživanja umjetne inteligencije koje bi sama AI pokretala. To ipak ne znači da automatizacija nije već uzela maha: AI danas piše više od 75 posto produkcijskog koda. No oko 88 posto izmjena koda još uvijek zahtijeva ljudski nadzor ili pregled, a svaka promjena prolazi kroz ljudsku reviziju prije nego što bude prihvaćena, kaže Belfield. Udio izmjena koda koje su u potpunosti prepuštene AI-ju porastao je s 7,5 na 11,9 posto.

Što je zadatak složeniji i dugotrajniji, to je manja vjerojatnost da će ga AI riješiti samostalno. U 1.389 internih pokretanja agenta Argon stopa uspješnosti bez ljudske pomoći naglo je padala kako je rasla složenost zadatka. Ljudi ostaju nezamjenjivi u kreativnom istraživanju, osmišljavanju novih eksperimenata, dijagnosticiranju suptilnih nestabilnosti u treniranju modela i dugoročnom planiranju, istaknuo je Belfield. Anketa provedena među dvanaest iskusnih istraživača iz Deepminda potvrdila je taj obrazac: automatizacija je najizraženija kod dobro definiranih i provjerljivih zadataka, a najniža kod otvorenih znanstvenih ideja.

Na Deepmindovom internom referentnom skupu RE-Bench, koji obuhvaća 74 realistična zadatka iz područja strojnog učenja, Argon rješava otprilike polovicu. To je znatan skok u odnosu na Gemini 3.7 Flash s 27 posto, ali još uvijek daleko od gotovo savršene izvedbe koju bi potpuna automatizacija zahtijevala.

Googleov vlastiti indeks sposobnosti ne pokazuje ubrzanje AI istraživanja

Kako bi sustavno pratili napredak, tim je razvio Opći indeks sposobnosti (General Capability Index, GCI) koji obuhvaća 123 modela i 92 referentna skupa. Sposobnosti Gemini modela rastu stabilnim tempom od oko 0,1 GCI boda mjesečno, bez ikakve značajne promjene u brzini napretka. Tim smatra da Gemini 4 Argon stoji tek neznatno iznad te putanje zahvaljujući većim računalnim resursima i organizacijskim ulaganjima, a ne ubrzanju koje bi pokretala sama AI.

Tim trenutačno procjenjuje rizik od automatizacije AI istraživanja kao nizak, no istovremeno gradi mjerni sustav koji će u budućnosti moći pravovremeno prepoznati znakove ubrzanja.

Belfieldovi zaključci u skladu su s recentnim istraživanjima, no nisu svi u struci istog mišljenja. Više od 20 istraživača AI-ja, među kojima su Geoffrey Hinton, Yoshua Bengio i Jakub Pachocki iz OpenAI-ja, nedavno je u znanstvenom radu upozorilo na mogući „eksplozivni rast inteligencije”. Tvrde da bi AI sustavi mogli automatizirati cjelokupno AI istraživanje i razvoj u svega nekoliko godina, sažimajući u nekoliko mjeseci ono što bi inače trajalo godinama.