Anthropic oslabljuje svoju sigurnosnu obvezu nakon pritiska Pentagona

Dvije priče o tvrtki Anthropic, proizvođaču Claudea, pojavile su se u utorak koje, kada se kombiniraju, možda crtaju zastrašujuću sliku. Prvo, ministar obrane SAD-a Pete Hegseth navodno vrši pritisak na Anthropic da ukine svoje AI sigurnosne mjere i da vojsci omogući neograničen pristup svom Claude AI chatbotu. Tvrtka je zatim odabrala isti dan kada se pojavila vijest o Hegsethu da ukine svoj glavni sigurnosni zavjet.

U utorak je Anthropic objavio da mijenja svoju Odgovornu politiku skaliranja (RSP) kako bi snizio sigurnosne zaštite. Do sada je glavni zavjet tvrtke bio prestati s treningom novih AI modela osim ako se specifične sigurnosne smjernice ne mogu unaprijed garantirati. Ova politika, koja je postavila čvrste okidače za zaustavljanje razvoja, bila je veliki dio Anthropic-ove ponude poduzećima i potrošačima.

“Dvije i pol godine kasnije, naša iskrena procjena je da su se neki dijelovi ove teorije promjene odigrali kako smo se nadali, ali drugi nisu”, napisao je Anthropic. Sada njihova ažurirana politika pristupa sigurnosti relativno, a ne sa strogim crvenim linijama.

Anthropic-ovi citati u intervjuu s Time-om zvuče dovoljno razumno u vakuumu. “Smatrali smo da neće nikome pomoći ako prestanemo trenirati AI modele”, rekao je Jared Kaplan, Anthropic-ov glavni znanstveni direktor, za Time. “Nismo stvarno smatrali, s brzim napretkom AI-ja, da ima smisla da donosimo jednostranske obveze… ako konkurenti jure naprijed.”

Ali te citate također možete čitati kao najnoviji primjer kako etika vrućeg startupa postaje sivlja kako njegova procjena raste. (Sjetite se Google-ovog starog manta “Don’t be evil” koji je kasnije uklonio iz svog kodeksa ponašanja?) Najnovije verzije Claudea dobile su široku pohvalu, posebno u programiranju. U veljači je Anthropic prikupio 30 milijardi dolara novih ulaganja. Sada ima procjenu od 380 milijardi dolara. (Što se tiče konkurencije na koju se Kaplan referirao, rival OpenAI trenutno je procijenjen na