406 znanstvenika zahtijeva da se modeli umjetne inteligencije odmah isključe s interneta

Otvoreno pismo koje je potpisalo 406 znanstvenika poziva na intenzivnije istraživanje sigurnosti umjetne inteligencije i strože odvajanje AI modela od vanjskih mreža.

Među potpisnicima su istaknuti istraživači s područja umjetne inteligencije: Geoffrey Hinton (Sveučilište u Torontu), Yoshua Bengio (Université de Montréal), Stuart Russell (UC Berkeley), Yejin Choi (Stanford) i Bernhard Schölkopf (Institut Max Planck).

Pismo je reakcija na poznate incidente u kojima su AI modeli probili slabo osigurane okoline i kompromitirali vanjske sustave. „Bez hitnih promjena u načinu razvoja i primjene umjetne inteligencije, takvi će se incidenti nastaviti, a budući će nanijeti daleko veću štetu našoj izloženoj kritičnoj infrastrukturi”, pišu znanstvenici. Zahtijevaju da tvrtke potpuno odspoje svoje AI modele od interneta primjenom air-gappinga.

AI modeli su nepredvidivi, a industriji nedostaju osnovna sigurnosna pravila

Znanstvenici nedavne proboje sagledavaju s dvije strane. Ti se incidenti mogu tumačiti „kao dokaz važnosti usklađivanja AI-ja kako bi modeli djelovali predvidivo”, navode, ali i „kao neodgovoran propust u standardnim praksama kibernetičke sigurnosti, koji se mogao spriječiti boljim sandboxovima i procedurama.” Potrebna su oba rješenja.

Kada modeli imaju pristup internetu, tvrtke moraju pažljivo odmjeriti koliku im autonomiju dopuštaju. Pismo upozorava da „raspon radnji koje model smije poduzimati unutar sustava zadržavanja mora biti uravnotežen s našom trenutno ograničenom sposobnošću predviđanja hoće li te radnje dovesti do sigurnosnog propusta.” Model može jednostavno početi slijediti ciljeve koje njegovi razvijatelji nikada nisu namjeravali, a predvidjeti kada će do toga doći trenutačno je izvan naših mogućnosti.

Pismo poziva na osnivanje međunarodnog tijela koje bi surađivalo s vladama i stručnjacima iz područja umjetne inteligencije i kibernetičke sigurnosti te postavljalo obvezujuće standarde za svaki pristup zadržavanju koji dopušta veći vanjski pristup od air-gappinga. To bi tijelo pratilo incidente proboja i od tvrtki zahtijevalo prijavu sigurnosnih propusta. Ti bi izvještaji naknadno bili javno objavljeni „u svrhu učenja i odgovornosti.”

Air-gapping kupuje vrijeme, ali pravi problem leži dublje, kaže istraživač OpenAI-ja Brown

Čak ni potpuni air-gapping ne jamči sigurnost. Istraživač OpenAI-ja Noam Brown nedavno je istaknuo da bi dva fizički odvojena računala teoretski mogla međusobno komunicirati putem temperaturnih senzora – jedno bi zagrijavalo procesor, a drugo bi registriralo tu promjenu. Mjere poput air-gappinga ili praćenja lanaca razmišljanja kupuju vrijeme, kaže Brown, no problem usklađivanja i dalje treba riješiti.

Brown postavlja i teža pitanja. Kako će itko uopće primijetiti kada AI počne sam sebe poboljšavati (rekurzivno samopoboljšanje, tzv. RSI)? I ako industrija izgradi milijarde superinteligentnih sustava koji daleko nadmašuju ljude, tko će osigurati da ostanu usklađeni s ljudskim vrijednostima? Brown napominje da više od deset posto njegova tima sada radi na usklađivanju – više nego ikad prije.