CHIPSMORE: Революция гетерогенных чиплетов в архитектуре инференса LLM

Недавнее исследование Национального университета Сингапура (NUS), представившее архитектуру CHIPSMORE, знаменует собой важный сдвиг в проектировании специализированных ускорителей для больших языковых моделей (LLM). В условиях, когда «бутылочным горлышком» инференса становится не только вычислительная мощность, но и пропускная способность памяти, интеграция технологий Compute-in-Memory (CIM) и Compute-in-Interconnect (CII) в рамках гетерогенных чиплетов представляет собой наиболее перспективный путь развития индустрии полупроводников. Техническая инновация CHIPSMORE заключается в гибридном подходе к обработке данных: архитектура эффективно разделяет задачи между базовыми моделями и адаптерами LoRA, минимизируя перемещение данных между памятью и вычислительными ядрами. Для полупроводниковой отрасли это означает отход от монолитных GPU-архитектур в сторону модульных систем. С точки зрения цепочки поставок, такой подход способствует более эффективному использованию передовых узлов техпроцесса (Advanced Nodes). Вместо того чтобы производить огромные монолитные кристаллы, где риск брака велик, производители могут компоновать систему из специализированных чиплетов, что значительно повышает выход годной продукции (yield) и снижает себестоимость. Влияние на индустрию будет ощутимым: разработчики систем на кристалле (SoC) теперь получают готовую концепцию для создания «интеллектуальных межсоединений». Это ставит под угрозу доминирование традиционных архитектур памяти (HBM), вынуждая производителей DRAM ускорять внедрение логики прямо в кристаллы памяти. Мы ожидаем, что в ближайшие 3-5 лет экосистема IP-блоков для гетерогенных систем расширится, создавая новые возможности для дизайн-центров, специализирующихся на Chiplet-based проектировании. В долгосрочной перспективе CHIPSMORE задает стандарт для масштабируемых систем искусственного интеллекта. Будущее ИИ-инфраструктуры лежит в области дезагрегации ресурсов, где вычисления становятся максимально близкими к данным. Это не только повышает энергоэффективность — критический фактор для дата-центров следующего поколения, — но и открывает путь для внедрения сложных LLM на граничных устройствах (Edge AI), где требования к теплопакету и производительности крайне строги. Индустрия стоит на пороге перехода от «вычислений общего назначения» к «архитектурам, ориентированным на данные».