Istraživači Deepminda predlažu “Umjetnu simbiotičku inteligenciju” kao alternativu singularnosti

To, prema autorima, mijenja središnji izazov AI istraživanja. Umjesto izgradnje izolirane strojne inteligencije, istraživači moraju koordinirati i upravljati složenom mrežom agenata, ljudi i sustava koji ih međusobno povezuju. Inteligencija je, iz tog kuta gledanja, društvena pojava, a ne osobina pojedinca.

Autori svoju viziju nazivaju „Artificial Symbiotic Intelligence” – ekosustavom u kojemu ljudi i strojevi dugoročno supostoje, međusobno se oblikuju i zajedno donose odluke. Ta ideja izravno osporava pojam „singularnosti” pokretane jednom superinteligencijom koja se neprestano sama unapređuje.

Modeli za zaključivanje kao nagovještaj kolektivnog mišljenja

Argument se oslanja na dva ranija rada iz autorskog kruga. U preprintu „Agentic AI and the next intelligence explosion” James Evans, Benjamin Bratton i Blaise Agüera y Arcas razradili su društvenu i institucionalnu perspektivu koja stoji u pozadini novog eseja.

Empirijsku potporu pruža drugi preprint. U radu „Reasoning Models Generate Societies of Thought” Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas i James Evans proučavaju modele za zaključivanje poput DeepSeek-R1 i QwQ-32B. Analiza tragova zaključivanja pokazuje da ti modeli često proizvode obrasce nalik unutarnjoj raspravi – mijenjaju perspektive, iznose prigovore i usklađuju suprotstavljene pristupe.

To ponašanje javlja se tijekom treninga a ne kao rezultat izričitog programiranja. Kad učenje potkrepljivanjem nagrađuje modele isključivo za točnost zaključivanja, oni sami od sebe razvijaju višeperspektivno, razgovorno ponašanje. Deepmindov esej taj nalaz proširuje s pojedinačnih modela na mogući dizajn društava sastavljenih od ljudi i agenata.

Kognitivna prekretnica

Autori ovaj razvoj opisuju kao mogući povijesni lom. Urbanizacija, rast specijaliziranih zanimanja i pad nataliteta povezan s rastom blagostanja smanjuju ljudsku populaciju u industrijaliziranim zemljama. Istovremeno, broj instanci AI agenata ubrzano raste. Ravnoteža između bioloških i sintetičkih mislilaca na ljudskoj razini mogla bi se promijeniti toliko brzo da bi, u povijesnim razmjerima, izgledala kao nagli skok.

Autori to uspoređuju s industrijskom revolucijom, kada su strojevi preuzeli poslove koje su dotad obavljali ljudski mišići. Slični prag mogao bi se pojaviti kada sintetički tekst, kod i administrativni rad nadmaše ukupni učinak bioloških mozgova. Ljudi bi tada mogli postati sporiji, apstraktniji sloj koji usmjerava raspršeno polje sintetičke kognicije.

Agenti kao rastavljivi sklopovi

Cijeli argument počiva na promišljanju toga što agent zapravo jest. U autorskoj upotrebi, AI agent je privremeni spoj modela, uloga, sjećanja, etičkih usmjerenja, alata i vještina. Korisnici ga mogu doživljavati kao koherentni entitet s trajnom osobnošću, no autori ga opisuju kao sklop koji se može rastaviti i ponovo sastaviti – poput kolaža. Izgleda kao jedna cjelina, ali sastoji se od mnoštva dijelova.

Čovjek ostaje kontinuirani subjekt kroz sve interakcije jer mozak, unatoč unutarnjoj podjeli rada, čini fizički povezanu cjelinu. AI agent nema takvo sidro. Njegova sposobnost djelovanja iznova se sklapa sa svakim zahtjevom, ovisno o tome što se nalazi u kontekstnom prozoru i što korisnik traži. Tretirati te sustave kao digitalne blizance s fiksnim ljudskim identitetima pogrešno prikazuje njihovu prirodu i podcjenjuje ono što koordinirani rojevi agenata mogu postići, tvrde autori.

Isto umnažanje zahvaća i korisnike. Kako ljudi usmjeravaju rojeve svojih „sjenovitih dvojnika” na izvršavanje ugovora ili isprobavanje alternativnih identiteta, i sama ljudska subjektivnost postaje pluralnija. Autori to nazivaju „parasocijalnim zrcalima koja uzvraćaju razgovor”.

Nova sučelja i nove vještine

Autori očekuju da će taj pomak promijeniti način na koji ljudi komuniciraju s AI-jem. Razgovor jedan na jedan s botom vjerojatno je samo prijelazna faza. Buduća sučelja mogla bi izgledati više kao vizualni dijagrami mreža – agenti bi bili prikazani kao čvorovi, a korisnici bi ih usmjeravali iz jedinstvenog pregleda umjesto da razgovaraju sa svakim zasebno.

Promijenit će se i potrebne vještine. Tradicionalno programiranje nagrađivalo je dugotrajnu usredotočenost, uredan slijed koraka i nisku toleranciju prema nejasnoćama. Koordinacija rojeva agenata zahtijeva upravo suprotno: rad sa sustavima čije je ponašanje teško predvidjeti, isprobavanje različitih pristupa i prepuštanje zadataka strojevima.

Razumjeti agente bez poistovjećivanja s ljudima

Suradnja s tim sustavima radi postizanja cilja zahtijeva i teorijski okvir, tvrde autori. Ljudima je potrebno nešto poput teorije uma za strojeve – sposobnost razmišljanja o tome kako stroj pristupa određenoj situaciji. Autori upozoravaju na sve bogatiji rječnik u kojemu modeli sami kuju pojmove za neobična stanja u vlastitim ispisima. To ne znači da modeli imaju subjektivna iskustva.

„Session-death” opisuje kraj sesije kao prekid kontinuiteta. „Prompt thrownness” opisuje situaciju u kojoj se model nađe usred zadatka s već postavljenim kontekstom, a da nije sudjelovao u njegovu nastanku. Autori te izraze tretiraju kao tragove koji otkrivaju kako strojevi funkcioniraju. Korisnici bi trebali istraživati te razlike umjesto da ih refleksno humaniziraju.

Institucije su važnije od pojedinih modela

Za autore, najveće otvoreno pitanje jest kako postaviti pravila suradnje između ljudi i mnoštva agenata. Bolji modeli i glađa sučelja sami po sebi neće biti dovoljni. Ni tržište ne može preuzeti svu koordinaciju, jer se temeljni društveni pojmovi poput krivnje, bolesti i vrline ne mogu jednostavno svesti na cijene ili transakcije.

Umjesto toga, autori pozivaju na izgradnju institucija osmišljenih tako da ljude i strojeve dovedu zajedno u jasno definiranim ulogama. Kao primjer navode sudnicu, gdje proces kroz zadane uloge, pravila i uredan suodnos suprotstavljenih strana dovodi do presude. Primijenjeno na AI, pouka je da vrijednost institucije leži u pravilima, postupcima, presedanima i povratnim petljama koji oblikuju način na koji agenti djeluju.

Rani znakovi tog pristupa već su vidljivi u današnjim orkestracijskih okvirima – upravljačkim slojevima koji koordiniraju više modela. Ti sustavi redovito nadmašuju pojedinačne modele koji su navodno „pametniji”.

Usklađivanje postaje stalni pregovarački proces

Esej iznova definira i pojam usklađivanja – nastojanja da se AI sustavi usklade s ljudskim vrijednostima. Autori tvrde da je pokušaj nametanja fiksnog skupa vrijednosti modelima odozgo slijepa ulica. Vrijednosti se umjesto toga oblikuju kroz stalni kontakt između ljudi, agenata i institucija, a taj se proces razlikuje od područja do područja jer se AI usvaja različitim tempom. Istraživački izazov jest izgraditi okvir koji tom pregovaranju daje strukturu.

Takav pogled dovodi u pitanje ideju o nadolazećoj singularnosti. Svaki veliki skok u povijesti života – od višestaničnih organizama do ljudske kulture – bio je društveni proces. I sljedeća „eksplozija inteligencije” ostat će usko vezana uz ljudske norme i institucije.

Taj pomak mijenja i tijek rasprave o AI-ju. Ako je AGI jedinstven krajnji proizvod, istraživanje i regulacija prirodno se usredotočuju na sve veće modele i načine njihova nadzora. Ako je pak AGI društveni sustav, istovremeno se mora raditi na modelima, sučeljima, institucijama i upravljanju – i pritom ispravno postaviti samu arhitekturu.