Svi članci
Vijesti iz Kine

Tencentov model Hy4 flash prvog dana obradio više od 50 bilijuna tokena

Tencentov model Hy4 flash prvog dana obradio više od 50 bilijuna tokena

Uspon laganih AI modela dovodi u pitanje uvriježeno uvjerenje da je veće uvijek bolje. Tencentov Hunyuan objavio je u srijedu da je Hy4 flash prvog dana nakon predstavljanja, 16. studenoga, obradio više od 50 bilijuna tokena, što je najveća uporaba u prvom danu među svim modelima iz serije Hunyuan.

Snažan početak Hy4 flasha bio je vidljiv i na drugim platformama. Na OpenRouterovoj dnevnoj ljestvici LLM-ova model je 17. studenoga zauzeo prvo mjesto.

Povezano: Tencent predstavio Hy4 flash, jeftiniji AI model koji prema internim testovima smanjuje trošak zadataka za 95 posto

Tencent navodi i da je Hy4 flash na platformi WorkBuddy prvog dana zabilježio deset puta veću uporabu od svojeg prethodnika, modela Hy4 preview, te da je pomogao u izvršavanju više od 50 milijuna stvarnih korisničkih zadataka.

Prema Tencentovim podacima, Hy4 flash temelji se na hibridnoj arhitekturi aktivacije i ima ukupno 224 milijarde parametara, od čega 64 milijarde otpada na parametre Engram, dok se tijekom inferencije aktivira 12 milijardi parametara.

Model podržava i multimodalnu obradu te kontekstni prozor od najviše milijun tokena. Tencent navodi da brzina generiranja doseže oko 200 tokena u sekundi. No ono što Hy4 flash čini posebno zanimljivim jest omjer performansi i cijene.

Prema Tencentovu cjeniku, korištenje modela stoji samo 0,5 juana (0,07 USD) za milijun ulaznih tokena i 2 juana (0,3 USD) za milijun izlaznih tokena, dok cijena predmemoriranih ulaznih tokena pada na svega 0,02 juana (0,003 USD) po milijunu.

U Tencentovu internom testu WorkIndex, kojim se ocjenjuju uobičajeni uredski zadaci, Hy4 flash po zadatku je trinaest puta jeftiniji od modela Hy4 preview i dvadeset puta jeftiniji od modela Hy4. Otprilike je osam puta jeftiniji i od uobičajenih laganih modela iz iste kategorije.

Tencentov model Hy4 flash prvog dana obradio više od 50 bilijuna tokena - 2

Zbog tih prednosti model je posebno prikladan za uredske zadatke koji se često ponavljaju, poput izrade i uređivanja prezentacija, obrade dokumenata, ispravljanja proračunskih tablica, obrade zvuka i videa te razumijevanja vizualnog sadržaja.

Predstavljanje novog modela uslijedilo je nakon što je potražnja za modelom Hy4 ranije naglo porasla. Kad se Hy4 4. studenoga pojavio na platformi WorkBuddy, potražnja potaknuta njegovim agentskim mogućnostima nadmašila je očekivanja, a mnogi su korisnici već prvog dana dosegnuli ograničenje uporabe. Tencent je zatim deseterostruko proširio inferencijske klastere za Hy4 i podigao besplatne kvote.

Čini se da se tim ovaj put uoči predstavljanja Hy4 flasha temeljitije pripremio za velik broj istodobnih korisnika, pa zasad nema izvješća o raširenim problemima s ograničenjima uporabe.

Takav razvoj događaja odražava i širu promjenu u tržišnom natjecanju u AI industriji.

Tencentov model Hy4 flash prvog dana obradio više od 50 bilijuna tokena - 3
Hy4 flash sada je dostupan kao otvoreni kod.

Budući da dnevna potrošnja tokena u Kini i dalje raste, tokeni sve više postaju važno mjerilo prihvaćenosti umjetne inteligencije. Istodobno, lokalne vlasti diljem zemlje uvode nove mjere, od vaučera za računalnu snagu i modele do financiranja na temelju tokena, kako bi AI usluge postale pristupačnije.

Tržišno se natjecanje više ne svodi samo na broj parametara ili performanse modela. Jednako je važno postići dobre rezultate uz niske operativne troškove.

Podatak od 50 bilijuna tokena koje je Hy4 flash obradio prvog dana šalje jasnu poruku: tržištu nisu potrebni samo sposobniji AI modeli, nego i modeli dovoljno povoljni za čestu, svakodnevnu uporabu.

Ipak, između snažne uporabe prvog dana i dugoročne komercijalne vrijednosti i dalje postoji jaz. U nadmetanju laganih AI modela sama cijena i broj potrošenih tokena bit će sve manje dovoljni.

Pravi je izazov dosljedno i pouzdano zadovoljavati stvarne poslovne potrebe, a pritom zadržati niske ukupne troškove. Za Tencentov Hunyuan snažan početak Hy4 flasha obećavajući je korak, no ključno će pitanje biti hoće li uspjeti početni zamah pretvoriti u trajnu vrijednost za korisnike.

Izvor: TechNode · Prilagodila umjetna inteligencija prema uputama urednika. Kako radimo