CHIPSMORE : La révolution des chiplets hétérogènes pour redéfinir l'inférence LLM

L'émergence de l'architecture CHIPSMORE, développée par les chercheurs de l'Université nationale de Singapour (NUS), marque une rupture technologique majeure dans la conception des accélérateurs dédiés à l'intelligence artificielle générative. En combinant le calcul dans l'interconnexion (compute-in-interconnect) et le calcul en mémoire (CIM) au sein d'une structure en chiplets, ce projet s'attaque frontalement au goulot d'étranglement de la mémoire (memory wall) qui limite actuellement les performances des LLM. Contrairement aux approches monolithiques traditionnelles, CHIPSMORE propose une flexibilité inédite pour gérer simultanément l'inférence en mode base et les adaptateurs LoRA (Low-Rank Adaptation), optimisant ainsi le traitement des requêtes multiples avec une efficacité énergétique accrue. L'impact sur l'industrie des semi-conducteurs est substantiel. Cette innovation valide la stratégie de désagrégation des puces : en déplaçant le calcul au plus proche des données, on réduit drastiquement les mouvements de données énergivores entre la mémoire et l'unité centrale. Pour les acteurs comme NVIDIA ou AMD, cette approche souligne la nécessité d'intégrer des capacités CIM au cœur des interconnexions haute performance, un domaine où la maîtrise du packaging avancé (2.5D et 3D) devient le différenciateur concurrentiel ultime. Les implications pour la chaîne d'approvisionnement sont tout aussi profondes : la montée en puissance des architectures à base de chiplets hétérogènes va favoriser une spécialisation accrue des fournisseurs de substrats, des fonderies et des concepteurs de solutions d'interconnexion (UCIe). À l'avenir, nous prévoyons que cette technologie pourrait démocratiser l'inférence LLM à grande échelle, en rendant les serveurs d'inférence moins dépendants de la bande passante mémoire externe pure (HBM). À court terme, l'adoption de CHIPSMORE ou de concepts similaires permettra aux centres de données de multiplier la densité de requêtes par watt. Cependant, le passage à la production de masse exigera une standardisation rigoureuse des interfaces entre chiplets et une montée en maturité des outils d'automatisation de conception électronique (EDA) capables de modéliser cette hétérogénéité complexe. En conclusion, CHIPSMORE ne représente pas seulement une avancée académique, mais un prototype fonctionnel de la prochaine génération d'accélérateurs IA, où la mémoire et le calcul fusionnent pour briser les limites actuelles de l'informatique.