Tencent objavio težine modela Hy4 s kontekstom od milijun tokena pod licencijom Apache 2.0
Tencent je u petak objavio težine svojeg vodećeg AI modela Hy4, pa ga programeri sada mogu sami preuzeti i pokretati na vlastitoj infrastrukturi. Objava dolazi nakon što je Hy4 prvi put predstavljen 4. studenoga, a vodeći model dostupan je pod licencijom Apache 2.0, koja dopušta komercijalnu uporabu i izmjene.
Hy4 razumije tekst, slike i videozapise, a njegov kontekstni prozor iznosi oko milijun tokena. Jezična okosnica, utemeljena na arhitekturi mješavine stručnjaka (mixture-of-experts), ima 770 milijardi parametara, od kojih se za svaki token aktivira 49 milijardi. Tencent tvrdi da je model u odnosu na probnu inačicu Hy4 napredovao u praćenju uputa, razumijevanju dugih konteksta, obavljanju dugotrajnih zadataka i istraživanju.
Model podržava radne procese koji obuhvaćaju grafička sučelja i alate naredbenog retka, ali i razvoj frontenda, razvoj igara te uredske zadatke. Tencent nudi upute za implementaciju pomoću alata vLLM i SGLang, resurse za fino podešavanje te karticu sa sigurnosnom procjenom. Objava vodećeg modela uslijedila je nakon što je Tencent zasebno kao otvoreni model objavio manji Hy4 flash. [Tencent]
Izvor: TechNode · Prilagodila umjetna inteligencija prema uputama urednika. Kako radimo