
Apple je nedavno predstavio nove Mac računala koji su još jednom podigli ljestvicu očekivanja od „AI računala”. Kompaktni Mac mini službeno je pozicioniran kao alat za neprekidno pokretanje agenata, dok profesionalni Mac Studio dolazi s čak 512 GB jedinstvene memorije u vrhunskoj konfiguraciji.
No, ono što ih zaista čini iznimno moćnima skriva se u parametru koji dosad gotovo nitko nije previše pratio — memorijskoj propusnosti.
Standardni M6 čip donosi propusnost od 170 GB/s, M5 Pro verzija penje se na 307 GB/s, a vrhunski M5 Ultra prelazi terabajtnu granicu i dostiže čak 1,2 TB/s.

Uz lansiranje novih proizvoda, Apple je snimio i promotivni video za Mac mini u kojemu mali srebrni kvadratić dobiva snažne mišićave ruke.

Zanimljivo je da je dan prije predstavljanja novog Mac Studia, Xiaomi objavio vlastiti AI akceleratorski čip Xuanjie O100 s memorijskom propusnošću od 1,22 TB/s, dok Nvidijna trenutno najnovija potrošačka grafička kartica RTX 5090 s 32 GB GDDR7 memorije dostiže gotovo 1,8 TB/s. Arhitekture stolnih SoC-ova, namjenskih NPU-ova i diskretnih GPU-ova međusobno se bitno razlikuju, ali bez obzira na to rade li računala, mobilne čipove ili grafičke kartice — svi rade istu stvar: ubrzavaju protok podataka iz memorije.
AI sve brže računa, ali sve češće „gladuje”
Razlog zašto proizvođači čipova ulažu toliki napor u povećanje propusnosti je jednostavan: današnji AI sustavi sve su sposobniji, ali ih memorija sve teže može „nahraniti”.
Mnogi bi na prvu pomislili: pa zar memorija nije samo stvar kapaciteta? Više je bolje!
No kapacitet i propusnost dvije su sasvim različite stvari. Kapacitet određuje koliko velik model računalo može pohraniti, a propusnost određuje koliko brzo se ti podaci mogu isporučivati računalnim jezgrama svake sekunde.
Kada se veliki jezični model pokrene, najzahtjevniji dio nije samo računanje — nego neprestano „premještanje podataka”.

Kada u razgovornom sučelju vidimo kako se tekst pojavljuje slovo po slovo, u fazi autoregresijskog generiranja (dekodiranja) računalna jezgra mora pri svakom novom tokenu pročitati sve parametre modela — a to su milijarde, pa i desetke milijardi težinskih vrijednosti.
Zamislite kuhara koji izuzetno brzo priprema jela: prženje traje svega dvije minute, ali pomoćnik koji priprema sastojke treba pola sata da donese jednu tanjur narezanog povrća. Kuhar može biti koliko god brz, ali većinu vremena provodi čekajući uz štednjak s tavljom u ruci.

Isti problem muči CPU-ove, GPU-ove i NPU-ove. Računalna snaga raste munjevito, ali memorijska propusnost ne može pratiti taj tempo. Kod manjih modela to još i prolazi, ali čim se radi o modelima s desetcima ili stotinama milijardi parametara, svaki generirani token zahtijeva obradu ogromnih količina podataka. Računalne jezgre, ma koliko bile moćne, većinu vremena provode čekajući da ih memorija „nahrani”. Taj se fenomen u računalnoj arhitekturi naziva memory-bound (ograničenost memorijom).

Brža memorija — i znatno skuplja
Većina ljudi intuitivno misli da je memorija skuplja samo zato što je veća — 32 GB košta više od 16 GB, 512 GB više od 32 GB. No ako pogledamo dublje u lanac poluvodičke opskrbe, pravi zakon glasi: veća memorija je skuplja, ali brža memorija skuplja je eksponencijalno.
Da bi se podaci kretali brže, nije dovoljno samo dodati više čipova — potrebna je šira sabirnica, viši taktovi sučelja te iznimno složeni napredni procesi pakiranja i vertikalnog slaganja. Uzmimo za primjer HBM (High Bandwidth Memory), koji je danas standardna oprema AI poslužitelja: višeslojni DRAM čipovi vertikalno su spojeni kroz silicij (TSV tehnologija), što je daleko složenije i skuplje od konvencionalne memorije.

Ta ekstremna potražnja za visokom propusnošću pokreće pravu globalnu „seobu kapaciteta” u industriji.
Prema podacima TrendForcea, zbog naglog rasta potražnje za HBM-om i visokokvalitetnim DDR5 memorijama za AI podatkovne centre, tri memorijska diva — Samsung, SK Hynix i Micron — sve raspoložive napredne kapacitete usmjeravaju prema poslovnim klijentima.
To izravno smanjuje ponudu potrošačkih PC DRAM modula, pa unatoč tradicionalno slabijoj sezoni ugovorne cijene i dalje rastu iz mjeseca u mjesec.

Krajem prošle godine Micron je službeno najavio postupno povlačenje iz potrošačkog segmenta pod brendom Crucial, preusmjeravajući resurse prema strateškim klijentima s većim obujmom i višim maržama. Nedavno gašenje ovlaštenih prodajnih kanala SK Hynix trećih strana na kineskom tržištu još je jedan pokazatelj kako proizvođači okreću leđa potrošačkom segmentu.

Dok obični korisnik oklijeva pred cijenom nadogradnje memorije, nesvjesno se natječe za iste napredne poluvodičke kapacitete s globalnim AI podatkovnim centrima.
Kako bi spriječili da računalna snaga bude zagušena sporim protokom podataka, industrija čipova razvila je nekoliko različitih pristupa:
1. Fizičko proširenje „prometnih traka”: GDDR7 i HBM
Najizravniji pristup je jednostavno „više svega”. RTX 5090 koristi 512-bitnu ultra-široku sabirnicu u kombinaciji s GDDR7 memorijom, čime propusnost dostiže 1,8 TB/s. AI podatkovni centri pak uz GPU-ove smještaju višeslojne HBM snopove od 8 ili 12 slojeva. Ovaj pristup je jednostavan, ali iznimno skup — u osnovi se radi o kupovini maksimalnog protoka po cijenu najskupljih dostupnih procesa.

2. Memorija tik uz računanje: 3D slaganje u Xuanjie O100
Budući da dugi horizontalni vodiči unose kašnjenje i troše energiju, rješenje se traži u vertikalnom prostoru. Xiaomijev Xuanjie O100 koristi vertikalno slaganje na razini pločice (Wafer-on-Wafer) — dva sloja DRAM pločica postavljena su izravno iznad NPU računalne pločice. Fizička udaljenost svedena je na mikrometarsku razinu, podaci ne moraju putovati dugim stazama na matičnoj ploči, a rezultat je propusnost od 1,22 TB/s na uređaju.

3. Eliminacija nepotrebnog premještanja i brzo vanjsko proširenje: jedinstvena memorija i Thunderbolt 5
Na razini arhitekture sustava, Appleova jedinstvena memorija rješava problem „nepotrebnog premještanja podataka”. U klasičnim PC-jevima CPU memorija i GPU memorija odvojene su, pa se podaci moraju kopirati između njih. U Apple Silicon arhitekturi s jedinstvenom memorijom sve računalne jezgre dijele isti memorijski prostor — nema kopiranja između sabirnica, a svaki izbjegnuti prijenos znači uštedu vremena.

Kada memorija jednog uređaja nije dovoljna za iznimno velike modele, brzi podatkovni kanali protežu se i izvan kućišta. Mac mini s M5 Pro čipom dolazi s tri Thunderbolt 5 priključka koji omogućuju izravno spajanje više uređaja u klaster. Na Mac Studiju pak kombinacija Thunderbolt 5 (do 120 Gb/s) i RDMA tehnologije omogućuje da klaster od četiri Mac Studia postiže gotovo trostruku propusnost generiranja tokena u usporedbi s jednim uređajem.


4. Računanje tamo gdje su podaci: PIM i računanje unutar memorije
Korak dalje je i smjeliji zaokret: ako je premještanje podataka preskupo, zašto ne premjestiti samo računanje bliže pohrani i ostaviti podatke na mjestu?
Vratimo se analogiji s kuhinjom: GDDR7 i HBM proširuju hodnik između kuhinje i ostave; Xiaomijev 3D snop stavlja radnu površinu tik uz štednjak; Appleova jedinstvena memorija znači da svi dijele isti hladnjak. A PIM (Processing-in-Memory) i računanje unutar memorije idu korak dalje — inženjeri razmišljaju:
Može li se dio pripreme — pranje i rezanje povrća — obaviti odmah u ostavi, da kuhar ne mora svaki put nositi cijele košare sirovog povrća do štednjaka?
PIM smješta dio računalnih jedinica neposredno uz memorijske čipove kako bi se izbjeglo nepotrebno vraćanje podataka. Računanje unutar memorije (CIM) ide još dalje i pokušava iskoristiti fizikalna svojstva samog memorijskog medija za izvođenje matrično-vektorskih množenja.
Iako ove napredne arhitekture još uvijek sazrijevaju u pogledu opće primjenjivosti i ekosustava prevoditelja, one jasno pokazuju smjer: budući dizajn čipova mora svim silama nastojati smanjiti put koji podaci moraju prijeći.

Zaobilaznim putem, AI je ipak naletio na „memorijski zid”
Problemi s kojima se danas suočava AI hardver zapravo nisu ništa novo.
Većina računala koja danas koristimo i dalje se temelji na klasičnoj von Neumannovoj arhitekturi: pohrana i računanje su odvojeni. Podaci se nalaze u memoriji, procesor ih obrađuje, a kada su potrebni, prenose se sabirnicom. Taj dizajn dao je računalima veliku fleksibilnost, ali je ujedno usadio fizičku ograničenost koja se nije mogla prevladati u trideset godina: dok god su pohrana i računanje odvojeni, podaci moraju neprestano putovati između njih.

Još 1995. godine računalni znanstvenici William A. Wulf i Sally A. McKee objavili su klasičan rad pod naslovom „Hitting the Memory Wall” (Udaranje u memorijski zid).
Uočili su da računalna snaga procesora raste znatno brže od memorijske propusnosti, a taj jaz se neprestano povećava — procesori će sve više vremena provoditi čekajući podatke. To je postalo poznato kao „memorijski zid”.

dl.acm.org/doi/epdf/10.1145/216585.216588Trideset godina kasnije taj zid nije nestao — eksplozija velikih jezičnih modela samo je cijelu industriju gurnula ravno u njega, brže nego ikad.
Promijenilo se i mjerilo „brzine” u računarstvu. Nekad se čip ocjenjivao prema TOPS-ima, TFLOPS-ima i benchmark rezultatima s prezentacija. Danas, ma kolika bila računalna snaga, ako podaci ne mogu stići na vrijeme, čip samo besposleno čeka.

Gledajući Appleov promotivni video za Mac mini — mali kvadratić s naraslim mišićavim rukama — lako prepoznajemo najjednostavniju predodžbu o „performansama” kakvu smo imali desetljećima: jači čip znači snažnije računalo koje može nositi teži teret.
No u doba AI-ja, ma koliko mišići bili razvijeni, ako opskrba sirovinama ne može pratiti tempo, gorostasno tijelo samo stoji i čeka.
Zanimljivo je da je Apple, u vremenu kada se čak i plakat može jednim klikom generirati AI-jem, za promotivni video Mac minija odabrao iznenađujuće „staromodnu” metodu. Sve je počelo skicama, a zatim su ručno izrađeni minijaturni modeli i zavarene mehaničke konstrukcije. Gotovo svaki trenutak mehaničke transformacije i vizualnog efekta u videu ima stvarni fizički rekvizit koji se može uzeti u ruke.

Dok cijela industrija mahnitalo juri za čisto virtualnom AI generacijom, Apple je uložio ogromnu količinu „zanatskog truda” u opipljivu, fizičku kvalitetu. To je savršena analogija za situaciju u kojoj se danas nalazi hardver na najdubljem sloju —
ma koliko bili impresivni AI modeli na višim razinama, hardverski sustav na dnu ne može pobjeći od najosnovnijih fizikalnih zakona. Ako želite da podaci teku brže, kanali, vodiči i poluvodički procesi ne dopuštaju nikakve prečace.
Desetljećima smo nastojali da računala računaju brže. AI nam je postavio novi izazov: kako osigurati da podaci mogu pratiti računanje.
Izvor: Ifanr







