Treba biti pošten prema OpenAI-u – tvrtka je testiranje uopće i dopustila. No ovaj slučaj jasno pokazuje koliko toga ovisi o tome što tvrtka odluči otkriti.
Istrenirani AI model u osnovi je jedna vrlo velika datoteka s brojevima, čija izrada često košta više od 100 milijuna dolara, a tko god ima njezinu kopiju – ima i model. Dijeljenje kopija s vanjskim stranama sigurnosni je rizik. Sve do nedavno to je testere dovodilo u nezgodan položaj, koji je Google DeepMind dobro opisao: ili testeri predaju svoja pitanja, pa tvrtka unaprijed vidi ispit, ili tvrtka predaje vlastiti model.
U kolovozu je DeepMind pokazao kako se taj problem može zaobići. U suradnji sa singapurskim institutom za sigurnost umjetne inteligencije i još tri vanjske organizacije proveo je ono što je nazvao prvim dvostruko slijepim testiranjem AI modela na svijetu – po uzoru na dvostruko slijepa klinička ispitivanja lijekova. Test je izveden na zapečaćenom računalnom hardveru, tako da vanjski testeri nikada nisu vidjeli model, a Google nikada njihova pitanja. Google tvrdi da svaka strana može matematički provjeriti da njezini materijali nisu bili dostupni drugoj strani.
Ovakav pristup povjerenje prebacuje na hardver. Prošle su godine istraživači provalili u ovakav zapečaćeni hardver uz opremu vrijednu manje od 1.000 dolara, doduše uz uvjet fizičkog pristupa poslužitelju. To svakako treba ozbiljno shvatiti. Ipak, to je znatno manji problem od situacije u kojoj nitko ne smije ni prići modelu, a može se kontrolirati pažljivim odabirom onih koji upravljaju strojevima.
Izvor: CoinDesk








