Microsoft interno testira Kimi K3, model kineske tvrtke Moonshot AI, i razmatra mogućnost prebacivanja dijela Copilotovih zahtjeva za inferenciju – koje trenutačno obrađuju modeli OpenAI-a i Anthropica – na Kimi K3, piše The Information. Microsoft još nije donio konačnu odluku o zamjeni ijednog od postojećih modela.
Prema Microsoftovim procjenama, preseljenjem dijela Copilotovog opterećenja na Kimi K3 godišnji troškovi cloud infrastrukture mogli bi se smanjiti za čak 600 milijuna dolara. Ova evaluacija dio je Microsoftove šire strategije kojom nastoji koristiti više različitih AI modela, smanjiti ovisnost o jednom dobavljaču i obuzdati troškove koji nastaju pri opsluživanju velikog broja AI zahtjeva.
Kimi K3 navodno se procjenjuje ne samo po sposobnostima u programiranju i logičkom zaključivanju, već i po troškovnoj učinkovitosti u određenim Copilotovim zadacima. Eventualna implementacija i dalje bi zahtijevala tehničku integraciju te razmatranje pitanja podatkovnog suvereniteta, sigurnosti i kontrole izvoza, a u početku bi mogla biti ograničena na manje osjetljive zadatke. [The Information]
Izvor: TechNode







