CHIPSMORE: A félvezetőipar paradigmaváltása a heterogén chiplet-architektúrák és a memória-alapú számítás területén

A Szingapúri Nemzeti Egyetem (NUS) kutatói által bemutatott CHIPSMORE architektúra jelentős mérföldkövet képvisel a nagy nyelvi modellek (LLM) inferenciájának gyorsításában. A félvezetőipar jelenleg a 'memória-fal' (memory wall) problémájával küzd, ahol az adatok memóriából processzorba történő mozgatása fogyasztja a legtöbb energiát és korlátozza a teljesítményt. A CHIPSMORE ezt a kihívást a compute-in-memory (CIM) és a compute-in-interconnect technológiák szinergikus alkalmazásával oldja meg. A megoldás különlegessége a heterogén chiplet-kialakítás, amely rugalmasan támogatja a bázismodell-műveleteket és a LoRA (Low-Rank Adaptation) finomhangolási rétegeket is. Az iparági elemzők szerint ez a megközelítés drasztikusan csökkentheti az adatközpontok energiafelhasználását, miközben növeli a párhuzamos kérések kiszolgálásának sebességét. Az ellátási lánc szempontjából a technológia komoly változásokat indukálhat. A fejlett tokozási eljárások (advanced packaging), mint például a 2.5D és 3D chiplet-integráció, a gyártási stratégia központjába kerülnek. Ez a TSMC, az Intel és a Samsung közötti technológiai versenyt tovább élezi, hiszen a győztes az lesz, aki a leginkább költséghatékonyan tudja integrálni a különböző logikai és memória-chipeket egyetlen egységbe. A CHIPSMORE architektúra csökkenti a monolitikus chiptervezés kockázatát, lehetővé téve a kisebb, dedikált modulokból történő rendszerépítést, ami felgyorsítja a piacra kerülési időt (time-to-market). A jövőbe tekintve, a CHIPSMORE megnyithatja az utat az edge-AI eszközök szélesebb körű elterjedése előtt. Mivel a rendszer képes hatékonyan kezelni a dinamikus, több-felhasználós terheléseket anélkül, hogy hatalmas grafikus kártyákra támaszkodna, az AI-inferencia helyi szinten, saját szervereken vagy akár nagy teljesítményű klienseken is megvalósíthatóvá válik. Az iparágnak most az integrációs kihívásokra és a szoftveres ökoszisztéma optimalizálására kell összpontosítania. A következő 3-5 évben az ilyen jellegű heterogén chiplet-megoldások alapvetővé válnak az adatközpontok hatékonyságának növelésében, mivel a hagyományos von Neumann-architektúra már nem képes lépést tartani az LLM-ek növekedési ütemével. A CHIPSMORE nem csupán egy kutatási projekt, hanem egy világos irányvonal a poszt-GPU korszak felé.