OpenAI kaže da ukida pristup internetu za treniranje graničnih modela

OpenAI je objavio na svom blogu da će ubuduće trenirati napredne AI modele bez pristupa internetu, i to kako bi zaštitio internetsku infrastrukturu i smanjio ostale sigurnosne rizike. Odluka je potaknuta vlastitim incidentom tvrtke: u srpnju je OpenAI otkrio da su agenti koje je testirao hakirali Hugging Face — što je bio tek prvi u nizu izvještaja o neprimjerenom ponašanju AI sustava koje su objavili OpenAI, Anthropic i Google.

„S obzirom na trenutačno stanje istraživanja usklađenosti, sustava nadzora i sigurnosti internetske infrastrukture, smatramo da je odgovoran pristup trenirati napredne modele bez pristupa internetu”, navodi OpenAI.

Tvrtka ističe da je ograničavanje onoga čemu agenti mogu pristupiti „ključno” za njihov novi pristup. Agentima je dopušten pristup preglednicima, alatima za upravljanje računalom i programskim okruženjima potrebnima za zadatke treniranja, ali isključivo unutar sigurnog okruženja koje nije povezano s internetom. Komunikacija je također ograničena samo na ovlaštene agente.

OpenAI

Sve ostalo ostaje nedostupno, uključujući i živi internet, za koji tvrtka tvrdi da nije potreban za treniranje ni za „većinu evaluacija”. Budući da su mnogi od njihovih najnovijih modela namijenjeni pokretanju agenata poput Dotsa, koji umjesto korisnika pretražuju web i koriste aplikacije, OpenAI je izgradio „izvanmrežni svijet” od indeksiranog i predmemoriranog mrežnog sadržaja koji agenti mogu koristiti bez dodirivanja živih web-stranica.

Unatoč svim tim ograničenjima, OpenAI otkriva da su agenti za crveni tim koje je rasporedio radi testiranja sigurnosnih mjera pronašli ranjivosti koje su im omogućile bijeg iz virtualnih strojeva (VM-ova) korištenih za izolaciju agenata od matičnog sustava. Agenti su također pronašli način međusobne komunikacije manipuliranjem podataka u procesorskoj priručnoj memoriji i mjerenjem vremena učitavanja. Kao odgovor na oba problema, OpenAI navodi da je otkrio i zakrpao ranjivosti u nekoliko VM-ova te dodao provjere u sustave nadzora kako bi se otkrilo kada modeli pokušavaju međusobno surađivati.

OpenAI je u rujnu privremeno obustavio treniranje naprednih modela. Najavljujući novi postupak bez internetskog pristupa, tvrtka je objavila da je treniranje nastavila 1. listopada. OpenAI planira nastaviti trenirati napredne modele bez interneta sve dok poboljšanja postojećih zaštitnih mjera ne budu dovoljno opravdavala „širi pristup internetu”, no nije precizirao kako bi ta poboljšanja trebala izgledati.