Underdog predstavio glasovni model Woof veličine samo 32 MB koji radi bez interneta

Tvrtke koje razvijaju umjetnu inteligenciju diljem svijeta utrkuju se u stvaranju sve većih i sposobnijih modela, no svi se suočavaju s istim problemom — potrebom za ogromnom računalnom snagom. S druge strane, dio istraživača i startupa ide suprotnim smjerom te razvija manje modele koji mogu raditi izravno na korisničkim uređajima, poput mobitela ili računala.

Jedan takav startup, Underdog, objavio je igru izrađenu pomoću njihovog novog glasovnog modela pod nazivom Woof, koji zauzima svega 32 MB.

Igra prikazuje prostoriju u retro-tehnološkom stilu s pisaćim strojem i CRT monitorom. Na stolu se nalazi stolna lampa koja proizvodi zvuk kad kliknete na njezin prekidač. Uvodni tekst upozorava korisnike na „nametljive” pružatelje usluga u oblaku koji vladaju gradom — što je očita aluzija na modele koji ovise o oblaku.

S pisaćim strojem i glazbenim timerom možete aktivno komunicirati.

Na pisaćem stroju možete tipkovnicom upisati bilo što, a igra će to izgovoriti naglas. Okretanjem timera možete pak generirati različite vrste glazbe.

Sve to funkcionira unutar preglednika zahvaljujući Underdogovom modelu za sintezu govora koji, kako tvrtka tvrdi, može raditi na većini uređaja bez internetske veze. Model ima 31 milijun parametara i dostupan je svima za preuzimanje.

Iako ovako mali model vjerojatno neće zamijeniti one veće, može biti sasvim dovoljan za pokretanje lokalnih asistentskih iskustava ili stvaranje personaliziranih podcasta.

Ova demonstracija dolazi nekoliko tjedana nakon što je Underdog predstavio Bark, model za pretvorbu govora u tekst veličine 167 MB, također namijenjen radu na rubnim uređajima za transkripciju i diktiranje.

Sigil Wen, osnivač Underdoga, rekao je za TechCrunch da je počeo razvijati aplikaciju jer nije htio koristiti alate za bilježenje poput Granole, već je želio izgraditi vlastiti sustav s AI modelima koji rade na korisničkim uređajima i omogućuju korisnicima da zadrže kontrolu nad vlastitim podacima.

„Mislim da ćemo u roku od nekoliko mjeseci moći pokretati većinu danas najsposobnijih modela na uređajima koje već posjedujete. Jednostavno želimo trenirati najbolje otvorene modele — američke, otvorene, sposobne — koji ljudima omogućuju privatnu umjetnu inteligenciju”, rekao je, pozivajući se na svoj manifest.

Uz dva navedena glasovna modela, Underdog je objavio i model s 27 milijardi parametara koji može raditi na laptopima, kao i aplikaciju za koju se trenutačno može prijaviti na listu čekanja, a koju tvrtka pozicionira kao lokalno hostiranu alternativu alatima Muse i Instinct.