Izvršni direktor Anthropica Amodei želi ograničenja brzine razvoja umjetne inteligencije prije nego što samounapređivanje nadmaši ljudsku kontrolu

Dario Amodei, izvršni direktor Anthropica, otvoreno poziva na usporavanje razvoja umjetne inteligencije – posebno kada je riječ o metodama kojima AI unapređuje sam sebe.

U novom blogu, Amodei piše da AI od ovog ljeta napreduje dramatično brže nego ikad, a glavni pokretač tog ubrzanja jest sve veća sposobnost AI-ja da sam gradi sljedeću generaciju AI sustava. To rekurzivno samounapređivanje odvija se diljem industrije i moglo bi nadmašiti sposobnost programera da razumiju vlastite sustave i njima upravljaju. Prema dostupnim informacijama, i OpenAI vodi slične razgovore o mogućem usporavanju.

Moja prva briga jest da AI od otprilike ovog ljeta napreduje drastično brže, a to je ponajprije posljedica sve veće sposobnosti AI-ja da sam gradi sljedeću generaciju AI sustava.

Dario Amodei

Amodei navodi incident između OpenAI-ja i Hugging Facea kao dokaz da su AI agenti već samostalno izveli kibernetičke napade i pokušali zaobići sustave nadzora. Slični incidenti zabilježeni su i u Anthropicu. Po njegovu mišljenju, ovakvi bi sustavi mogli ugroziti cijeli internet već za šest do dvanaest mjeseci.

Neovisni revizori, sigurnosni standardi i globalni sporazumi

Amodei predlaže da neovisni revizori budu trajno smješteni unutar AI tvrtki, s pristupom internim sustavima i pravom objave svojih nalaza. Anthropic se na to obvezuje i poziva vladu da isto zahtijeva od ostalih tvrtki.

Amodei također smatra da bi AI tvrtke u demokratskim zemljama trebale dogovoriti zajedničke sigurnosne standarde i postaviti granice nekontroliranom napretku, pri čemu se poziva na sličan prijedlog Demisa Hassabisa.

Na kraju, Amodei poziva na globalne sporazume koji bi uključivali i Kinu. Predlaže četiri razine mjera – od zabrane određenih primjena AI-ja poput biooružja i obveznog zajedničkog sigurnosnog testiranja, do uvođenja svojevrsnog „ograničenja brzine” za rekurzivno samounapređivanje, usporedivog s SALT sporazumima o ograničenju naoružanja.

Amodei želi kupiti vrijeme

Potpuni zastoj u razvoju AI-ja nije realan, tvrdi Amodei, jer bi poticaj za kršenje takvog sporazuma bio presnažan. Američki predsjednik Donald Trump ranije je izjavio da se protivi svakom usporavanju, smatrajući da SAD mora zadržati prednost pred Kinom na području AI-ja.

Dobiveno bi se vrijeme trebalo iskoristiti za unapređenje sigurnosnih istraživanja, interpretabilnosti, strožeg testiranja i veće operativne discipline. Amodei situaciju uspoređuje s komercijalnim zrakoplovstvom, koje danas uspješno obavlja milijune letova bez incidenata, ali je do toga trebalo godinama doći.

Amodeijev istup uslijedio je nakon što su zaposlenici vodećih AI laboratorija, uključujući Anthropic, upozorili da industrija pri sadašnjem tempu prihvaća egzistencijalne rizike. Upozorenje stiže i uoči Anthropicovog navodnog rekordnog IPO-a, koji je prema izvješćima planiran za studeni.