Kako je OpenAI pretvorio svoje alate za kodiranje u Dots, uvijek dostupnog osobnog asistenta

AI osobni asistent koji radi u pozadini čak i kad ga nitko ništa ne pita – to je ovogodišnji odgovor na pitanje kako će ljudi zapravo koristiti modele dubokog učenja. Startup Instinct postao je preko noći senzacija, a Meta je svu snagu svog marketinga usmjerila prema svom asistentu, Museu.

OpenAI nije htio zaostati. Tvrtka je predstavila dots, svog asistenta, na Developer Dayu krajem rujna. Alexander Embiricos, koji vodi tim za enterprise proizvode u OpenAIju, pridružio nam se na TechCrunch Disruptu ovog mjeseca kako bi objasnio odakle je taj proizvod potekao – počevši od pitanja zašto toliko tvrtki posežu za slatkim maskotama kao avatarima za svoje modele s bilijunima parametara.

„Događa se neka vrsta konvergentne evolucije”, rekao je Embiricos o nastojanjima da se izgrade AI asistenti. „Dok smo radili na proizvodu, shvatili smo da ako to možemo prikazati kao entitet s kojim vodiš jedan jedini razgovor, a ne mnogo različitih razgovora… sve postaje intuitivno.”

Asistent je dostupan u ChatGPT aplikacijama za stolna računala i mobitele pretplatnicima na Pro razini ili višoj, uz pretplatu od 100 dolara mjesečno. Nakon što se poveže s kalendarom, e-poštom, računalom i ostalim alatima, agent pokušava pomoći korisnicima u svakodnevnom poslu.

Embiricos napominje da bi velik dio funkcionalnosti dotsa mogao postići i putem OpenAIjeve aplikacije Codex, alata za programiranje objavljenog početkom ove godine – no to zahtijeva više truda i ručnog vođenja. Prisjetio se kako je proslavio kad je njegova supruga počela ostavljati računalo uključeno cijelu noć kako bi njezini agenti mogli nastaviti s radom.

„U timu za proizvod razmišljam o tome kako ovo učiniti intuitivnim i korisnim ljudima”, rekao je sudionicima Disrupta. „Velik dio toga nije izgradnja neke nove tehnologije u proizvod, nego kako to predstaviš korisniku i kako se to osjeća.”

Da bi tehnologija djelovala intuitivno, trebalo je prepakovati funkcionalnost modela u nešto pristupačnije – put kojim je tvrtka već krenula kada je izdvojila ChatGPT Work iz agentnih alata za programiranje koje je razvila za softverske inženjere. Čak i ime – igra riječima s negativnim prostorom unutar OpenAIjevog logotipa – osmišljeno je tako da „djeluje kao nešto što bi jednog dana moglo postati sveprisutno”. (Na pitanje kada je saznao da suparnik i AI poduzetnik Elon Musk posjeduje URL dot.com, Embiricos je odgovorio: „Saznao sam jako kasno.”)

Ideja trajnog agenta jest da ne treba poticaj. Za OpenAI to znači veću potrošnju tokena, a za korisnike proaktivnijeg asistenta koji „na neki način razmišlja o tebi i o tome kako ti pomoći”, kako je to opisao Embiricos.

U našem testiranju sposobnost asistenta da razmišlja unaprijed bila je vidljiva i često korisna, ali još nije sasvim dotjerana. Upozorava na sukobe u kalendaru i nadolazeće rokove, ali ne uvijek pravovremeno.

„Prvi put kad mi je javio o jednom takvom sukobu – to je bilo rano u razvoju – obavijestio me tri minute prije događaja”, kaže Embiricos o svom dotu. „Kaže: ‘Hej, ovo ti se bliži. Možda bi trebao nešto poduzeti.’ A ja imam samo tri minute!”

Embiricos očekuje da će se tajming s vremenom poboljšati, no proaktivni pristup ključan je za cijeli proizvod. „Čuo sam za inženjera u startupu koji se bavi dostavom dronovima. Rekao je: ‘Imali smo ispad, i dok sam ja uopće primijetio da se nešto događa, moj dot je već uočio problem, analizirao ga i donio mi korisne informacije o tome kako ga riješiti.'”

Dati dotu ključeve

Kao i kod većine slučajeva upotrebe AI agenata, postoji napetost između osobnih podataka koje AI model treba da bi bio koristan i količine osobnih podataka koje time izlažete softverskoj tvrtki. Muse je kritiziran zbog profila koje gradi o vašim prijateljima i obitelji – softver ih koristi kako bi znao, primjerice, u kakav restoran biste željeli ići s određenim prijateljem, ali ti podaci istovremeno mogu biti iznimno vrijedni za Metino oglašivačko poslovanje. Prikuplja li dots slične podatke?

„Da, ugradili smo u dots nešto što nazivamo proaktivnim istraživanjem”, rekao je Embiricos. „U određenim intervalima, razmišlja o tome što zna o vama, kakav je razgovor dosad vodio, čemu ste mu dali pristup, a zatim istražuje: ‘Što bih mogao učiniti da vam budem korisniji?’ I onda vam to predlaže.”

Teško je odvojiti podatkovne potrebe agenta od potreba matične korporacije. Hark, startup koji razvija vlastiti AI osobni asistent, izričito naglašava da ne prikuplja podatke za potrebe oglašivačkog poslovanja, za razliku od OpenAIja i Mete.

Što se dotsa tiče, OpenAI tvrdi da agent ima iste kontrole privatnosti kao i sam ChatGPT: korisnici mogu isključiti treniranje modela (čime sprječavaju OpenAI da koristi njihove razgovore za poboljšanje AI-ja) te kontrolirati kojim resursima na računalu agent pristupa i na koji način. Ipak, te kontrole nisu dovoljno detaljne, a aplikacija zna biti nametljiva – primjerice, odbija prihvatiti pristup pohrani u oblaku samo za čitanje.

„Mislim da moramo izgraditi iznimno, iznimno detaljne kontrole”, rekao je Embiricos, no kao drugu stranu medalje istaknuo je inteligenciju i diskreciju modela.

„Ovo je zapravo nešto zbog čega smo dobili dosta kritika pri lansiranju”, rekao je Embiricos. „Imali smo jako konzervativne zadane postavke za ono što agent smije raditi i često je tražio dopuštenje. Znao sam da ćemo dobiti takve povratne informacije, ali mislio sam: ‘U redu je, to možemo s vremenom podesiti.'”

Mogu li osobni AI agenti skalirati?

Drugo veliko pitanje o AI agentima jest mogu li skalirati. Zabavni su dok ih ima malo, a priče o agentima koji uspijevaju rezervirati teško dostupne stolove u restoranima umnažaju se. No tvrtke ne vole nužno poslovati s agentima i možda nisu ni opremljene za to. Ljudi ih zasigurno ne vole – (napomena: prestanite slati vaše AI agente da mi nude suradnju) – a Embiricos je jedan od tih ljudi. I sam ima ljudskog asistenta jer OpenAIjevi poslovni partneri žele komunicirati s osobom, rekao je, dodavši: „Osobno nikad ne namjeravam imati sastanak s nečijim agentom.”

Ako je AI industrija u pravu da su agenti naša budućnost, možemo li tamo stići bez preopterećenja infrastrukture na kojoj danas počiva naš svijet – od tvrtki i web stranica do platnih mreža?

„U OpenAIju… ne idemo uvijek najbrže kad je riječ o isporuci novih mogućnosti za agenta da djeluje u svijetu”, rekao je. „Kad to radimo, radimo to u bliskoj suradnji s ostatkom ekosustava. Vjerojatno ne mogu previše reći, ali duboko smo u razgovorima s procesorima plaćanja.”

Omogućiti AI asistentu da troši novac putem partnerstava s platnim tvrtkama bio bi potencijalno unosni presedan za OpenAI, ali i velik zahtjev prema korisnicima. Dati asistentu pristup e-pošti već se čini kao puno – a pristup bankovnom računu zasad je isključen. Zasad.