PočetnaVijesti iz KineSenseTime objavljuje kao open-source AI model s 9 milijardi parametara koji ponovno...

SenseTime objavljuje kao open-source AI model s 9 milijardi parametara koji ponovno koristi slojeve za dublje procesiranje

SenseTime je objavio SenseNova Loop-9B-Preview, multimodalni model otvorenog koda koji koristi ponavljano računanje kako bi produbio obradu podataka bez umnožavanja težina modela. Objava je najavljena 30. listopada.

Model prima tekst i slike te generira tekst namijenjen razumijevanju dokumenata, programiranju i zadacima koji uključuju vanjske alate. Dijeljeni blok od 24 dekoderska sloja prolazi kroz obradu dva puta, čime se postiže dublji računski put uz otprilike devet milijardi parametara.

Dokumentirana konfiguracija za treniranje podržava sekvence od do 262.144 tokena i kombinira tekst, slike, kod i primjere korištenja alata. SenseTime je objavio težine modela, upute za zaključivanje i smjernice za treniranje, a projekt je distribuiran pod licencijom Apache 2.0. [SenseTime]

Izvor: TechNode

Webimir
Webimir
Webimir je redakcijski profil portala webimir.com. Svakodnevno pratimo vodeće svjetske izvore o tehnologiji – mobitele, umjetnu inteligenciju, gadgete, automobile, kriptovalute i kinesko tech tržište – i donosimo najvažnije vijesti na hrvatskom jeziku, sažeto i razumljivo. Uz svaki članak navodimo izvornu vijest, tako da original uvijek možete provjeriti sami.
POVEZANI ČLANCI
- Advertisment -
Google search engine

Najpopularnije

Komentari čitatelja