PočetnaVijesti iz KineDeepSeek želi bolju umjetnu inteligenciju po nižoj cijeni

DeepSeek želi bolju umjetnu inteligenciju po nižoj cijeni

Napomena uredništva: Ovaj članak napisala je Lucia, novinarka TechNodea.

Razviti sposobniji model umjetne inteligencije tek je pola posla. Druga je polovica učiniti ga dovoljno pristupačnim za primjenu u velikom opsegu. DeepSeek je objavio ažuriranje V4.1 Flash usmjereno na brže izvršavanje zadataka i kraće izlazne rezultate, a uz to je objavio i open-source okvir za učinkovitije zaključivanje (inference).

Ažuriranje modela s obećavajućim ranim rezultatima

DeepSeek je 17. listopada objavio V4.1-Flash-1017, ažuriranje svog modela V4.1 Flash. Objavljeni rezultati benchmarka pokazuju napredak u nekoliko područja, uključujući programiranje i agentske zadatke. Terminal-Bench 4.0 rezultat porastao je s 31,2 na 42,3, a DeepSWE v1.1 s 74,2 na 77,0.

Graf omjera cijene i performansi za DeepSWE v1.1 benchmark programiranja pokazuje da V4.1 Flash-1017 postiže rezultat Pass@1 od 77% uz trošak od oko 0,20 USD po zadatku, nadmašujući pritom nekoliko modela koji su znatno skuplji za pokretanje. Pri nižim troškovima od 0,11 do 0,14 USD po zadatku, model i dalje postiže oko 72–73%.

DeepSeek želi bolju umjetnu inteligenciju po nižoj cijeni - 2
IMAGE CREDIT: DeepSeek API Docs

DeepSeek također navodi kraća vremena izvršavanja zadataka i kraće izlazne rezultate, što može smanjiti troškove zaključivanja kada model isti posao obavi uz manji broj tokena i manje računalnog vremena. Ažuriranje je optimizirano za agentske okvire, uključujući DeepSeek Harness, Tencent CodeBuddy i WorkBuddy.

Ipak, radi se ponajprije o rezultatima koje je objavila sama tvrtka, a različiti testovi koriste različite okvire i postavke vrednovanja. Ti rezultati ne jamče jednako dobre performanse u svim primjenama.

Neovisan signal stigao je s Arena’s Agent Arena ljestvice. Prema izvješću ITHomea od 20. listopada, ažurirani model zauzeo je prvo mjesto među modelima otvorenih težina i 11. mjesto u ukupnom poretku, na temelju 7.498 stvarnih korisničkih sesija. Medijalni trošak iznosio je oko 0,18 USD po zadatku, iako su različite stranice ljestvice prikazivale iznose između 0,18 i 0,19 USD.

DeepSeek želi bolju umjetnu inteligenciju po nižoj cijeni - 3
IMAGE CREDIT: @arena

Otvaranje infrastrukture

DeepSeek je 20. listopada objavio DeepInfer, svoj interni okvir za zaključivanje, zajedno s bibliotekom deepseek-recipe za obradu API zahtjeva, pripremu upita za model i parsiranje izlaznih rezultata.

Okviri za zaključivanje upravljaju načinom na koji modeli koriste računalne resurse pri obradi zahtjeva. Njihov dizajn utječe na latenciju, propusnost i hardver potreban za opsluživanje korisnika, što ih čini važnim — premda manje vidljivim — čimbenikom operativnih troškova umjetne inteligencije.

DeepSeek opisuje DeepInfer kao okvir koji pokreće njegove produkcijske usluge velikog opsega. Prema README datoteci i dokumentaciji za postavljanje, open-source izdanje uključuje optimizirane računalne kernele, asinkrono raspoređivanje te podršku za distribuirano zaključivanje i spekulativno dekodiranje. Trenutačno podržava Nvidia SM100 GPU-ove i Huawei Ascend 950 NPU-ove, a kao podržani model naveden je DeepSeek V4.1 Flash.

Ovo izdanje nije potpuni inference stack. DeepSeekova dokumentacija navodi da KV-cache sustav, razdvajanje prefill/decode faza i balansiranje opterećenja između data-parallel replika predstavljaju preduvjete za potpunu uslugu koji nisu u potpunosti pokriveni ovim izdanjem — iako je većina temeljne funkcionalnosti razdvajanja već implementirana.

Objavljeni open-source kod razvojnim inženjerima daje pristup dijelovima DeepSeekove tehnologije za posluživanje modela. Praktične koristi ovisit će o njihovom hardveru, radnim opterećenjima i dodatnom inženjerskom radu potrebnom za postavljanje sustava.

Niži troškovi nisu cijela priča

Prigodom rujanskog lansiranja V4.1 Flasha, DeepSeek je izvijestio da je zahtjeve za KV-cache memorijom smanjio na četvrtinu, a potrebe za SSD pohranom na osminu u odnosu na prethodnu generaciju. Tvrtka također nudi izvanvršne API cijene po upola nižoj cijeni od vršnih.

U listopadu je DeepSeek razvojnim inženjerima otvorio Search i Fetch API-je, po cijeni od 5 yuana za 1.000 uspješnih zahtjeva. Pozivi putem DeepSeek API integracija s Claude Codeom i Codexom privremeno su besplatni, a naplata po zahtjevu planirana je od 1. studenog.

Svi ovi koraci pokazuju da DeepSeek istovremeno radi na učinkovitosti na razini modela i infrastrukture, proširujući pritom skup alata dostupnih za AI agente. Hoće li ta poboljšanja rezultirati pouzdanim performansama i nižim ukupnim troškovima, pokazat će stvarna primjena u praksi — ovisno o radnim opterećenjima, načinu postavljanja i održavanja sustava.

Izvor: TechNode

Webimir
Webimir
Webimir je redakcijski profil portala webimir.com. Svakodnevno pratimo vodeće svjetske izvore o tehnologiji – mobitele, umjetnu inteligenciju, gadgete, automobile, kriptovalute i kinesko tech tržište – i donosimo najvažnije vijesti na hrvatskom jeziku, sažeto i razumljivo. Uz svaki članak navodimo izvornu vijest, tako da original uvijek možete provjeriti sami.
POVEZANI ČLANCI
- Advertisment -
Google search engine

Najpopularnije

Komentari čitatelja