Anthropic izvršni direktor Amodei ustrajava na stavu o rizicima otvorenih težina, inzistirajući da nikada nije pozivao na zabranu

Dario Amodei, izvršni direktor Anthropica, i dalje smatra da sposobni modeli s otvorenim težinama nose značajne rizike – no nije načelno protiv otvorenih težina.

U objavi na blogu naglašava da „Anthropic nikada nije zagovarao zabranu modela s otvorenim težinama” te da su modeli „koji nemaju opasne sposobnosti javno dobro.” Ni američka zabrana korištenja kineskih modela ne bi ništa riješila, „jer zlonamjerni akteri vjerojatno nisu legitimne američke tvrtke”, piše Amodei. „Takva zabrana bi zaštitila američke AI kompanije od konkurencije, ali to nikada nije bio moj cilj.”

Amodei navodi dva „noćna mora”: autoritarni režimi, posebno Kina, mogli bi razviti moćnije modele od SAD-a i iskoristiti ih za vojnu nadmoć ili masovni nadzor. Drugi scenarij je zlouporaba snažnih otvorenih modela za kibernetičke napade ili napade biološkim oružjem. AI laboratoriji iz vlastitih podataka o korištenju znaju da do takvih pokušaja već dolazi i s modelima zatvorenog koda.

Modeli s otvorenim težinama rizičniji su, tvrdi Amodei, jer nemaju zaštitne mehanizme, a jednom objavljen model ne može se povući. Iako otvoreni modeli jačaju i obrambene kapacitete, Amodei vidi veliku neravnotežu kada je riječ o biološkim prijetnjama: dovoljno sposobni modeli mogli bi brzo pretvoriti viruse u oružje, dok bi izgradnja obrane trajala godinama čak i u najpovoljnijem scenariju.

Studija britanskog AI Security Institutea pokazala je da modeli s otvorenim težinama zaostaju za vodećim modelima na području kibernetičke sigurnosti za svega nekoliko mjeseci. Amodei je i ranije upozoravao na sposobnosti vlastitih modela, a ta su upozorenja djelomično pridonijela uvođenju američke zabrane – pa je barem dosljedan u svojim stavovima.

Amodei želi usporiti Kinu i spriječiti najgore scenarije

Amodei poziva na stroži nadzor izvoza čipova kako Kina bez američkih čipova ne bi mogla trenirati modele snažnije od američkih. Zahtijeva i mjere protiv industrijskog distiliranja, koje Kina navodno koristi kako bi djelomično zaobišla ograničenja izvoza čipova i besplatno se koristila plodovima američkog AI razvoja. Kritičari pak tvrde da zabrana prodaje američkih čipova Kini uglavnom potiče razvoj kineske vlastite čipovske industrije te da je distiliranje legitimna i korisna tehnika.

Amodei također zahtijeva obvezno sigurnosno testiranje svih snažnih modela, bez obzira na njihovo podrijetlo ili vrstu licence. U tom pogledu Amodei primjećuje sve širi konsenzus te upućuje na nedavne prijedloge koji bi manje snažne modele startupa i istraživačkih institucija izuzeli od tih zahtjeva.

Amodeievi komentari dolaze nakon izvještaja da američke vlasti razmatraju mjere kojima bi američkim tvrtkama otežale korištenje kineskih modela s otvorenim težinama, kao i nakon pisma koje su potpisale mnoge velike tehnološke kompanije protiveći se takvim potezima.

Kritičari optužuju Anthropic da umanjuje vrijednost modela s otvorenim težinama kako bi zaštitio vlastiti poslovni model od jeftinije konkurencije. I OpenAI navodno i dalje lobira protiv otvorenih težina, unatoč tome što je ta kompanija potpisala spomenuto pismo.