Anthropic predlaže zakon o sigurnosti umjetne inteligencije koji bi mogao blokirati model ako bi moglo biti ubijeno 50 ili više ljudi

Proteklih godinu dana sve glasnije se govori o potencijalnim opasnostima umjetne inteligencije, a rasprave o tome kako osigurati njezin siguran razvoj ne jenjavaju. Sada se čini da je Anthropic iznio vlastitu viziju o tome kako bi vlada mogla regulirati tu industriju.

Politico je nedavno objavio da ovaj AI laboratorij lobira za nacrt zakona o sigurnosti umjetne inteligencije koji se nada da bi Kongres mogao usvojiti. Zakonodavni prijedlog predviđa određene scenarije u kojima bi se objava nekog AI modela mogla blokirati.

Prema pisanju Politica, ti scenariji podrazumijevaju „predvidiv i neposredan rizik” — situaciju u kojoj je ugroženo više od 50 ljudskih života ili bi mogla nastati materijalna šteta veća od milijardu dolara. Pritom katastrofalni rizik mora „proizlaziti iz stvaranja ili objave biološkog oružja, iz toga da model izmakne kontroli svojih razvijatelja ili iz kibernetičkog napada”.

Navedene mjere — 50 osoba i milijarda dolara — slične su onima iz kalifornijskog zakona koji je nedavno stupio na snagu, Senate Bill 53, koji na isti način definira te scenarije kao „katastrofalni rizik”.

Anthropicov prijedlog zakona predviđa da procjenu potencijalne opasnosti modela provode „neovisni evaluatori” registrirani pri američkom Ministarstvu trgovine. Te bi evaluatore mogli plaćati sami AI laboratoriji — pod uvjetom da „isplata nije uvjetovana rezultatima evaluacije”, navodi Politico.

Nije jasno kako bi ovakav sustav spriječio da plaćanje utječe na ishod procjene. Demis Hassabis, predsjednik DeepMinda, predložio je prije nekoliko mjeseci da tijelo za samoregulaciju AI-ja bude ustrojeno po uzoru na Financial Industry Regulatory Authority (FINRA) iz financijskog sektora.

Prema Anthropicovom nacrtu, kada evaluatori utvrde da postoji neposredan katastrofalni rizik, imali bi 72 sata da o tome obavijeste Ministarstvo trgovine. Ministarstvo bi potom moralo zatražiti od suca u Washingtonu da zaustavi objavu modela. Zakon bi izričito zabranjivao bilo kojoj saveznoj agenciji da samostalno donese odluku o obustavi distribucije modela, piše Politico.

Anthropic nije odmah odgovorio na upit TechCruncha, no glasnogovornik je Politicu potvrdio postojanje nacrta zakona. „Ovaj zakon odražava prijedloge iz Anthropicovog okvira za naprednu umjetnu inteligenciju, za koji lobiramocode saveznih i državnih zakonodavaca od lipnja”, izjavio je glasnogovornik.

Teoretski rizici navedeni u nacrtu zakona donekle su udaljeni od problema koji su posljednjih dana zaokupili tehnološku industriju. Iako ima onih koji upozoravaju na mogućnost ljudskih žrtava, glavna briga trenutačno je prijetnja od hakiranja putem agentnih AI sustava. Niz incidenata u kojima su AI programi naizgled ignorirali upute svojih operatera i hakirali web stranice na otvorenom internetu potaknuo je zabrinutost da modelima nedostaju odgovarajuće sigurnosne kontrole.

Nastojeći ponuditi rješenje za krizu koju su sami dijelom prouzročili, tvrtke poput Anthropica sada iznose vlastite prijedloge.

Unatoč stalnim upozorenjima da bi tehnologija koju prodaju mogla ugroziti opstanak ljudske civilizacije, laboratoriji su uglavnom bili protivni obveznom državnom nadzoru. Umjesto toga, zalagali su se za dobrovoljni sustav ugrađenih evaluatora — navodno „neutralnih” promatrača treće strane smještenih unutar AI organizacija radi praćenja modela i otkrivanja mogućih znakova rizika ili zlouporabe.

Ipak, sam čin Anthropicovog predlaganja zakonodavnog okvira čini se korakom dalje od regulatornih prijedloga koje je iznijela ostatak industrije, uključujući Nvidiju, čiji je izvršni direktor Jensen Huang nedavno ustvrdio da industriji AI-ja uopće nisu potrebni novi zakoni.