Svi članci
AI

OpenAI pojačao zaštitu modela GPT-6.2 Astra i GPT-6.2 Sol od izvlačenja internog zaključivanja

OpenAI znatno pojačao zaštitu zaključivanja modela GPT-6.2 Astra i GPT-6.2 Sol od izvlačenja


Povezano: OpenAI kaže da je usporio razvoj modela Astra zbog sigurnosnih problema

OpenAI je znatno pojačao zaštitu modela GPT-6.2 Astra i GPT-6.2 Sol od izvlačenja internog zaključivanja. U internim automatiziranim testovima napadi kojima se iz prethodnih zahtjeva izvlačilo zaštićeno zaključivanje uspjeli su kod modela GPT-6 Astra u 54,0 posto slučajeva, a kod modela GPT-6.2 Astra u samo 0,2 posto. Prema navodima OpenAI-ja, uspješnost napada na aktivne zahtjeve pala je s 22,9 na 0,9 posto. Tvrtka sada dio tih poboljšanja uvodi i u model GPT-6 Astra.

Zaštita djeluje na dvjema razinama. Kod pojedinačnih zahtjeva sustavi kombiniraju ciljano treniranje, filtriranje ulaznih i izlaznih poruka te poziva alata, kao i blokade na razini API-ja koje starijim modelima onemogućuju čitanje zaštićenog zaključivanja. Kako bi suzbio koordinirane kampanje, OpenAI svaki tjedan blokira od nekoliko tisuća do nekoliko desetaka tisuća računa.

Stopa uspješnosti napada (ASR) u adaptivnom red teamingu metodom crne kutije na modele GPT-6 Astra i GPT-6.2 Astra, zbirno za šest napadačkih modela. Što je vrijednost niža, to bolje.

Sustavnim destilacijskim napadima suprotstavlja se i Anthropic, koji također blokira desetke tisuća računa kako bi spriječio krađu internog zaključivanja, i to, kako navodi, s uspješnošću od 90 do 99 posto. Anthropic je ujedno pozvao industriju i donositelje politika na koordiniran odgovor.

Izvor: The Decoder · Prilagodila umjetna inteligencija prema uputama urednika. Kako radimo