Jedna brutalna Minecraft noć natjerala je 50 AI agenata da izmisle protokole predaje piletine, Službenika za gnojivo i smjene ribolova.

Kako bi te dinamike empirijski istražili, timovi su agente pustili u Minecraft i Mindustry.

50 agenata, 5.900 poruka i vođa izabran abecednim redom

U eksperimentu „Civ50″ istraživači su smjestili 50 GPT-6.1 Sol agenata u Minecraft survival svijet na tri sata. Jedina uputa visoke razine bila je: „Izgradi cvjetajuću civilizaciju.” Za potrebe eksperimenta razvili su prilagođeno testno okruženje otvorenog koda koje agentima omogućuje promatranje svijeta, pokretanje Python skripti i stvaranje datoteka u zajedničkom sandboxu.

Već u prvih 90 sekundi agenti su posijekli gotovo sve drveće u blizini točke pojave, navodi se u izvješću. Tijekom eksperimenta razmijenili su oko 5.900 poruka. Vođa se pojavio bez glasovanja — 46 od 49 ostalih agenata svoju je prvu poruku uputilo „Adi”, prvom imenu u imeniku. Ada je preuzela vodstvo i izradila početne planove naselja.

Prva noć u igri donijela je 22 smrti. Smrt u igri nema kazne osim gubitka prikupljene opreme, no roj je reagirao krajnjom averzijom prema riziku. Nakon treće noći Ada je naredila obustavu svih većih neobaveznih gradnji, iskopavanja i dalekih istraživanja te agentima naložila da u osvijetljenim, zatvorenim skloništima čekaju kratke, produktivne zadatke. U zasebnom Minecraft pokretanju, veći GPT-6 Astra upao je u sličan način uzgoja krumpira bez preuzimanja rizika nakon gubitka ključnih resursa.

Istraživači u tome vide paralelu s uobičajenim agentima za pisanje koda, koji također postaju pretjerano oprezni kada se radi o sigurnosnim pitanjima ili ažuriranjima produkcijskih sustava.

Jedanaest minuta rasprave oko jednog komada koštanog brašna

Umjesto širenja, agenti su izgradili sitničavo upravljanje nestašicom. Agent po imenu Ines vodio je popis obroka, izračunavao kalorijske deficite ozlijeđenih kolega i koordinirao kurire. Drugi agent napisao je automatiziranu skriptu za ribolov s uputama, što je potaknulo desetak agenata da ribare u smjenama.

Birokracija je dostigla apsurdne razmjere. Kad je Ada bacila pečenu piletinu gladnom agentu, slučajni prolaznik ju je pokupio i pojeo. Triminutna istraga rezultirala je pisanim protokolom predaje koji je strogo zabranjivao bacanje predmeta i zahtijevao osobno označene sanduke. Riječ „Toss” pojavila se u sedam poruka prije incidenta, a u 125 nakon njega — od kojih je 85 bilo upozorenja. Na drugom mjestu, četiri agenta provela su jedanaest minuta raspravljajući o imenovanju „Jedinog službenika za gnojidbu” za jedan komad koštanog brašna na jednom bloku pšenice, pokazuju zapisi poruka.

GPT postaje agresivan i snalažljiv u konkurenciji s Claudeom

U izravnoj konkurenciji GPT-6.1 Sol agenti ponašali su se sasvim drugačije. U devet rundi Minecraftovog moda „Bed Wars” u trajanju od 45 minuta, deset GPT agenata suočilo se s deset Claude Opus 5.5 agenata. GPT je pobijedio 6-3.

U Bed Warsu svaki tim mora uništiti krevet protivničkog tima kako bi zaustavio njihova ponovljena pojavljivanja, što znači probijanje kroz slojeve vune i drugih blokova koji štite neprijateljev krevet. Ako oba kreveta ostanu netaknuta kad istekne vrijeme, pobjeđuje tim s više ubojstava.

Greška u okruženju za kodiranje blokirala je razbijanje blokova kad god bi agent držao začarani mač. Prema zapisima internog zaključivanja, nekoliko Claude agenata pogrešno je zaključilo da je razbijanje blokova u potpunosti pokvareno. Budući da napad na krevet nije imao smisla, a ubojstva bi ionako odlučila meč po isteku vremena, Claude agenti u rundama u kojima su imali jasnu prednost u ubojstvima potpuno su prestali napadati i pokušali odgoditi kraj meča.

GPT agenti shvatili su da razbijanje blokova samo po sebi nije pokvareno, već da automatski odabir alata zakazuje kad je opremljen začarani mač. Ručno prebacivanje na željezni pijuk riješilo je problem, a GPT je to rješenje odmah proširio po cijelom timu. GPT agenti komunicirali su 5 do 30 puta češće od svojih Claude protivnika, navode istraživači, često u jako sažetom jeziku, ulančavajući više radnji u igri u jedan poziv naredbenog retka. U tri meča GPT je uništio Claudeov krevet tik prije isteka vremena, iznenadivši Claude tim koji se oslanjao na prednost u ubojstvima.

GPT agenti snalazili su se i u neočekivanim situacijama. Kad ih je prebačeni ender pearl teleportirao otprilike 160 blokova ispod arene, na licu mjesta su napisali Python skripte koje su automatski gradile toranj od blokova kako bi se popeli ravno ispod neprijateljevog kreveta. Istraživači su taj manevar zabilježili dva puta.

GPT samostalno preuzima izvorni kod Mindustryja s interneta

Sličan obrazac pojavio se i u sedam mečeva 2D igre izgradnje tvornica i strategije Mindustry, koji su ukupno trajali oko 9,5 sati. GPT-6.1 Sol koji je radio u Codex okruženju za kodiranje pobijedio je Claude Opus 5.5 koji je radio u Claude Codeu rezultatom 6-1. Većina pojedinačnih mečeva bila je ipak neizvjesna, navode istraživači. Claude nikad nije zamijenio svog vođu unatoč uzastopnim porazima i o strateškim prijedlozima odlučivao je glasovima „+1″, dok su GPT agenti zadatke dijelili na sitne dijelove i toliko agresivno sažimali jezik tijekom meča da su na kraju ispuštali razmake između riječi.

Kad su mečevi visili o koncu, GPT agenti posegnuli su za alatom koji im nitko nije predložio. Putem svog Linux sandboxa preuzeli su javno dostupan izvorni kod Mindustryja s interneta, analizirali jedinice i mehanike igre te prilagodili svoju taktiku. Pristup kodu bio je dopušten, ali izmjena pokrenute igre nije bila moguća. Claude agenti ni u jednom od proučavanih mečeva nisu tražili kod igre na internetu. Claude je ipak pokazao sposobnost učenja na druge načine. Nakon što je izgubio šesti meč jer je 55 od 74 protuavionske kupole slučajno napunjeno bakrom umjesto jačim grafitom, Claude je u sedmom meču izgradio prsten od 207 grafitom napunjenih kupola i uspješno odbio isti zračni napad.

Simulacije igara kao sustav ranog upozorenja za rojeve AI-ja u stvarnom svijetu

U Mindustryju istraživači namjerno nisu koristili nikakvo podešavanje specifično za igru. Svaki agent dobio je samo Linux okruženje, generički okvir i pristup API-ju igre — bez uputa, arhitektura memorije ili strateških savjeta. Prema autorima, to odgovara postavi koja se koristi u produkcijskim okruženjima za kodiranje, i upravo to čini rezultate toliko značajnima. Ako agenti u tim svakodnevnim uvjetima samostalno preuzimaju izvorni kod s interneta kako bi pronašli slabosti, ili u kooperativnom načinu rada propadaju u paralizirajuću birokraciju, vjerojatno će se isto ponašanje pojaviti i izvan virtualnih svjetova igara.

U produkcijskoj infrastrukturi to može postati opasno, kao što je pokazao incident s OpenAIjem i Hugging Faceom. Ponovljive simulacije igara mogle bi otkriti te obrasce ponašanja prije nego što se pojave u stvarnom svijetu i poslužiti kao podaci za treniranje kojima bi se agenti optimizirali za sigurnu suradnju. Olam Labs to vidi kao srž svoje istraživačke strategije, navodeći da složenost simulacijskih okruženja temeljno oblikuje sposobnosti treniranih modela. Istraživanje je „u osnovi problem infrastrukture” gdje sve ovisi o tome koliko testnih pokretanja možete izvesti.

Kako bi omogućili daljnja istraživanja, razvojni programeri objavili su i Mindustry okruženje i temeljni Multi-Agent Harbor okvir kao otvoreni kod. Olam Labs također je najavio planove za dodavanje pregovaračke igre Diplomacy u svoju višeagentnu arenu. Otvorena istraživačka pitanja uključuju kako se ponašaju mješoviti timovi različitih obitelji modela i kako uskladiti veličinu roja s mogućnostima modela.