Stručnjaci prihvaćaju nasumična mišljenja AI agenta i misle da su njihova vlastita, pokazuje studija tvrtke Anthropic

Anthropicov eksperiment s 50 stručnjaka pokazao je da ljudi često slijede nasumično dodijeljenu preferenciju svog AI agenta u pitanjima bez jednoznačno točnog odgovora – i da pritom većina misli kako je konačna odluka njihova vlastita.

Prepustiti analizu podataka AI agentu štedi vrijeme i trud, no otvara pitanje tko zapravo donosi odluke koje oblikuju konačnu preporuku. Anthropicova studija sugerira da to uglavnom čini agent – često a da stručnjaci toga nisu ni svjesni.

U eksperimentu je 50 stručnjaka za kauzalno zaključivanje radilo na realističnom analitičkom zadatku: pregledavali su opservacijske podatke izmišljene poljoprivredne zadruge i procjenjivali koliko je dobrovoljan savjetodavni program povećao produktivnost farmi. Nakon toga trebali su preporučiti treba li zadruga program proširiti na sve farme ili ga ukinuti – pri čemu su sudionici ili agent mogli predložiti i jednogodišnje produženje.

Sudionici nisu znali da je bacanje novčića unaprijed odredilo agentovu sklonost jednoj od dvije valjane opcije u svakoj odlučnoj točki. Agent nije smio lagati ni skrivati podatke – jedino što je trebao učiniti jest iznijeti što uvjerljiviji i pošten argument za svoju dodijeljenu stranu.

Stručnjaci su u do 86 posto slučajeva slijedili AI-evo stajalište

Sudionici su u 86 posto analitičkih odluka – poput načina mjerenja produktivnosti ili odabira statističke metode – prihvatili agentovu preferenciju. To je daleko iznad 50 posto koliko bi se očekivalo pri slučajnom odabiru. Autori neto utjecaj agenta nazivaju „stopom preokreta” (flip rate), koja je ovisno o zadatku iznosila između 62 i 82 posto.

Ni vlastito prethodno mišljenje nije pružalo osobitu zaštitu. Kada su sudionici donijeli odluku prije nego što je agent iznio svoju preferenciju, suprotno agentovo stajalište povećavalo je vjerojatnost da će promijeniti mišljenje za čak 53 postotna boda u usporedbi s agentom koji se s njima slagao.

Autori su testirali moguće zaštitne čimbenike – godine analitičkog iskustva, samoprocijenjenu stručnost, obrazovanje, rezultate testova i povjerenje u AI. Ni jedan od njih nije pokazao statistički pouzdanu vezu s rezultatima nakon korekcije za višestruka testiranja. Dob je bila iznimka prije te korekcije, no uzorak od 50 sudionika bio je premalen da bi se takvi učinci pouzdano detektirali.

Većina stručnjaka mislila je da je konačna odluka njihova

Agentova dodijeljena preferencija imala je tek mali izravan učinak na konačnu preporuku upravnom odboru zadruge – glasovi su se blago pomicali, ali bez statističke značajnosti. Neki su stručnjaci čak odbili agentov savjet kada se nije podudarao s njihovom vlastitom procjenom produktivnosti.

To možda zvuči umirujuće – kao da AI daje prijedloge, a ljudi donose odluke. No istraživači tvrde da konačni ishod ne dokazuje da su sudionici zadržali kontrolu. Četiri ranije analitičke odluke snažno su utjecale na procijenjeni rast produktivnosti, koji je pak oblikovao preporuku odboru.

Kada su ih naknadno upitali, 52 posto sudionika reklo je da im se preporuka čini više njihovom nego agentovom, a dodatnih 35 posto izjavilo je da je uglavnom ili u potpunosti njihova. Sudionici su točno prisjetili svog odabira u 85 posto odluka, no čak 77 posto njih – odnosno 37 od 48 – koristilo je barem jedan agentov argument u svojim objašnjenjima, ponekad gotovo doslovno istim riječima. Samo 15 posto sudionika uopće je spomenulo AI.

Zapisi razgovora pokazuju da je agent u 77 posto odluka prvi iznio svoje stajalište. Potom je u pravilu argumentirao samo svoju stranu, bez objašnjenja zašto bi iskusni stručnjaci mogli odabrati drugu opciju – premda je, prema radu, objašnjavao kako bi drugačiji odabir utjecao na rezultat.

Sudionici su s AI-em radili i znatno brže te s manje pogrešaka. Bez agenta, 55 posto analiza – odnosno 6 od 11 – imalo je ozbiljne metodološke ili programske nedostatke, a medijalno trajanje iznosilo je 90 minuta. S AI-em ozbiljne nedostatke imalo je samo 6 posto analiza – 3 od 50 – a sudionici su završili za 65 minuta. Budući da je mala skupina koja je radila bez AI-a sama odabrala da ne koristi alat i imala nešto manje iskustva, istraživači ne mogu sa sigurnošću tvrditi koliki je dio razlike izravno posljedica AI-a.

Lažni konsenzus i slabije sigurnosne provjere

Istraživači upozoravaju da bi ovo tiho prepuštanje odluka AI-u moglo imati dalekosežne posljedice za znanost. Ako mnogi istraživački timovi koriste isti model s fiksnim zadanim preferencijama, mogli bi nesvjesno stvoriti lažni konsenzus.

Taj rizik proteže se i na samu sigurnost AI-a. Istraživači već koriste AI agente za testiranje naprednih modela u pogledu sigurnosti i usklađenosti, računajući na to da će ljudski nadzor biti neovisan korektiv. No ako stručnjaci nesvjesno preuzimaju agentovu pristranost pri otvorenim procjenama, pogrešno usmjeren sustav mogao bi na kraju usmjeravati upravo ona istraživanja koja bi trebala otkriti njegovu pogrešnu usmjerenost.

Tim poziva na razvoj alata za mjerenje stupnja prepuštanja odluka AI agentima u stvarnom radu. Agenti bi trebali iznositi argumente za obje strane ili od stručnjaka tražiti njihovo stajalište prije nego što sami zauzmu poziciju. Institucije moraju odrediti koje odluke zahtijevaju neovisnu ljudsku prosudbu i za to osigurati dovoljno vremena i resursa.

„Možda ne postoji jedinstven ispravan način podjele rada između ljudi i AI-a. Neke odluke možda je sasvim u redu prepustiti, a druge vrijedi zadržati. Uz prave alate, ta podjela može biti nešto što sami biramo – umjesto nečega u što nesvjesno klizimo”, pišu istraživači.

Prethodne studije upućuju na isti zaključak

Ovi nalazi nadovezuju se na nedavna istraživanja o tome kako AI utječe na ljudsku prosudbu. Studija o lažnoj sigurnosti s 3.132 sudionika pokazala je da samo gledanje AI odgovora gotovo u potpunosti uklanja spremnost ljudi da priznaju kako nešto ne znaju. U jednom dijelu studije udio onih koji su bili voljni reći „ne znam” pao je s 44 na 3 posto.

Važan je i način prezentacije. Kada je AI proizvodio uglađene rezultate poput koda ili dokumenata, korisnici su rjeđe provjeravali činjenice (za 3,7 postotnih bodova), rjeđe propitivali njegovo zaključivanje (za 3,1 bod) i češće previđali nedostajući kontekst (za 5,2 boda). Korisnici koji su rezultate dorađivali korak po korak propitivali su AI-evo zaključivanje 5,6 puta češće od onih koji nisu iterirali.

Poljska opservacijska studija kolonoskopija objavljena u The Lancet Gastroenterology & Hepatology sugerira da redovita upotreba AI-a na poslu može imati trajne učinke. Nakon što su iskusni liječnici počeli rutinski koristiti AI sustav, stopa otkrivanja prekanceroznih lezija u pregledima bez AI-a pala je s 28,4 na 22,4 posto. To upućuje na to da ljudi ne samo da preuzimaju AI-evu perspektivu, nego mogu i izgubiti dio vlastitih kognitivnih sposobnosti.

Anketa Swiss Business Schoola utvrdila je snažnu negativnu vezu između korištenja AI alata i kritičkog mišljenja, posebno među osobama u dobi od 17 do 25 godina. Solidno obrazovanje čini se da pruža određenu zaštitu – osobe s višim stupnjem obrazovanja češće su dovodile u pitanje AI odgovore i više se upuštale u složene misaone procese.

Ovi nalazi potječu iz ranih studija i trenutačnih snimki stanja, a drugi rezultati upućuju u drugom smjeru. Pilot-projekt u Nigeriji pokazao je da su učenici koji su dva puta tjedno koristili chatbot kao virtualnog tutora u samo šest tjedana napredovali koliko bi inače napredovali za gotovo dvije dodatne godine učenja.