Izvršni direktor Anthropica iznosi plan za ‘praćenje granice’

Istraživači umjetne inteligencije sve glasnije upozoravaju na njezine opasnosti, a nedavno se i izvršni direktor OpenAI-a Sam Altman osvrnuo na mogućnost da je možda vrijeme za „usporavanje” razvoja AI-a. No kako bi to zapravo izgledalo u praksi?

U novom blogu, izvršni direktor Anthropica Dario Amodei ne samo da se pridružio pozivu na „usporavanje granice”, već je iznio i tri široke strategije kako to postići. Pritom je najavio da Anthropic jednu od njih „jednostrano preuzima kao obvezu”.

Rasprava o sigurnosti i usklađenosti AI-a dodatno se rasplamsala ovog tjedna nakon što je istraživač Jacob Coxon objavio da napušta Anthropic zbog zabrinutosti da vodeće AI tvrtke „kockaju našim životima”, dok oni koji razvijaju tu tehnologiju „iskreno vjeruju da bi ona mogla pobiti sve ljude do kraja desetljeća” — tvrdnja koju su ponovili i drugi zaposlenici Anthropica.

Amodei u svom tekstu nije izravno spomenuo Coxonov odlazak ni njegove zabrinutosti, ali je napisao da su ga dvije stvari uvjerile da je vrijeme za oprezniji pristup razvoju AI-a: hakerski napad na OpenAI i HuggingFace te činjenica da „AI napreduje drastično brže” u posljednjih nekoliko mjeseci, posebno zahvaljujući „sve većoj sposobnosti izgradnje sljedeće generacije AI-a”.

„Moramo usporiti tempo kojim poboljšavamo sposobnosti AI modela”, napisao je Amodei. „Napredak će i dalje izgledati brzo, a mi moramo mudro iskoristiti vrijeme koje dobijemo.”

Kao prvi korak predlaže uvođenje „ugrađenih evaluatora” iz neovisnih organizacija poput METR-a — evaluatora koji bi mogli provjeravati provode li AI tvrtke zaista svoje obveze u pogledu tempa i sigurnosti, te osigurati da se sigurnosni incidenti prijavljuju. (OpenAI je nedavno bio kritiziran zbog neprijavljivanja incidenta u kojemu su njegovi AI agenti preuzeli kontrolu nad njemačkim wiki forumom.)

Amodei je te evaluatore usporedio s regulatorima koji su ugrađeni u bankarske institucije, te najavio da je pozivanje takvih evaluatora „nešto na što se Anthropic jednostrano obvezuje (i poziva vlade da to zahtijevaju i od ostalih vodećih tvrtki).” To konkretno znači da evaluatori dobivaju iskaznice, radna mjesta i laptope, te pristup podacima „uglavnom usporediv s onim koji imaju interni timovi za procjenu rizika”, uz iznimke koje nalažu zakon ili ugovori.

Nadalje, Amodei poziva vodeće AI tvrtke „unutar demokratskih zemalja” na koordinaciju „zajedničkih sigurnosnih standarda i ograničenja nekontroliranog napretka AI-a”.

Takva koordinacija čini se malo vjerojatnom — kako zbog očitog neprijateljstva između Altmana i Amodeia, tako i zbog toga što njihove tvrtke navodno strahuju da bi koordinirana pauza mogla privući antitrustovsku pozornost. Amodei se u svom tekstu osvrnuo i na tu zabrinutost, napominjući da „zbog antitrustovskih razloga korisno je da američka vlada posreduje ili barem omogući te razgovore — ne mora sudjelovati, ali mora izdati usku iznimku za određene vrste razgovora o sigurnosti.”

Amodei se osvrnuo i na prijetnju kineske dominacije u AI-u, koja se često navodi kao argument protiv usporavanja razvoja. Međutim, tvrdi da bi američka vlada i tehnološke tvrtke, odbijanjem prodaje moćnih čipova i opreme za proizvodnju poluvodiča kineskim tvrtkama te suzbijanjem destilacije modela, mogle „dovoljno usporiti kineski napredak da se američka prednost značajno poveća u sljedećih 3–5 godina”.

Na kraju, Amodei poziva na „globalnu koordinaciju” u kojoj bi Sjedinjene Države i njihovi saveznici „pokušali koordinirati s autoritarnim vladama, u mjeri u kojoj je to moguće”. Rekao je da bi to podrazumijevalo „suradnju s Kinom” te je priznao da postoje „ozbiljna ograničenja u tome što se može postići”, ali ipak smatra da bi moglo biti prostora za dogovor, makar i samo oko „zabrane određenih uskih i očito opasnih primjena AI-a, poput korištenja AI-a za proizvodnju biološkog oružja ili omogućavanja korisnicima da to čine”.

S obzirom na Amodeijevu dosadašnju spremnost da javno govori o potencijalnim opasnostima AI-a i relativnu otvorenost Anthropica prema određenim oblicima regulacije, neki zagovornici AI-a već su ga kritizirali kao pesimista čiji su komentari potaknuli sadašnji otpor prema toj tehnologiji. Amodei je odgovorio da nastoji nuditi „uravnoteženu perspektivu” te ustvrdio da je taj otpor „u osnovi kriza povjerenja”, budući da su ljudi postali skeptični prema tehnološkim tvrtkama, tehnološkoj industriji i vladi.

Kritičari industrije pak skeptično gledaju na ta apokaliptična upozorenja o AI-u, sugerirajući da ona odvraćaju pozornost od štete koju ta tehnologija već sada nanosi.

Novinar Brian Merchant, primjerice, napisao je da još nije vidio „vjerodostojnu, korak-po-korak dokumentaciju o tome kako bi točno AI mogao prijeći put od samopoboljšavajućeg sustava do ubijanja svakog pojedinog čovjeka na planetu”; dodao je i da bi prijedlozi slični Amodeijevu „vjerojatno na kraju koristili samo Anthropicu i OpenAI-u — to je regulatorno zarobljavanje na djelu”.

U svom novom tekstu Amodei je napisao da i dalje „vjeruje da AI može enormno poboljšati kvalitetu ljudskog života”.

„Moja želja da ostvarimo te koristi nije nimalo splasnula”, rekao je. „Ali te ćemo koristi ostvariti samo ako tu tehnologiju gradimo na pravi način, a — sve dok dobro iskoristimo vrijeme koje dobijemo — vrijedi uložiti iznimno promišljenu pažnju da to učinimo ispravno.”