Nowa era obliczeń: Pionowe stosy DRAM w architekturze GPU zmieniają reguły gry termicznej

Najnowsze badania przeprowadzone przez instytut imec rzucają nowe światło na ograniczenia wydajnościowe współczesnych systemów obliczeniowych AI. Publikacja „Beyond HBM-on-GPU: Thermal Design Envelope for 3D Volumetric DRAM-on-GPU Integration” wyznacza nowy kierunek w projektowaniu architektury pamięci, odchodząc od tradycyjnych układów 2.5D HBM (High Bandwidth Memory) na rzecz innowacyjnego, wertykalnego stackowania DRAM bezpośrednio nad jednostką przetwarzania graficznego (GPU). Kluczowym elementem tej propozycji jest wprowadzenie specjalnych wnęk chłodzących pomiędzy poszczególnymi warstwami pamięci, co radykalnie zmienia dotychczasowy „kopertę termiczną” (thermal design envelope) układów o wysokiej gęstości. Z perspektywy przemysłowej, to odkrycie stanowi potencjalny przełom w rozwiązywaniu problemu „wąskiego gardła pamięci” (memory wall). Obecne rozwiązania, oparte na umieszczaniu stosów HBM obok GPU na substracie typu interposer, stają się nieefektywne przy rosnących wymaganiach energetycznych i wydajnościowych. Pionowe ułożenie DRAM pozwala na drastyczne skrócenie ścieżek sygnałowych oraz zwiększenie gęstości upakowania danych, co w długoterminowej perspektywie umożliwi budowę jednostek obliczeniowych o znacznie wyższej przepustowości niż te, które znamy obecnie z akceleratorów klasy enterprise. Implikacje dla łańcucha dostaw są znaczące. Wdrożenie tego typu rozwiązań wymusi na dostawcach podłoży (substrates) oraz firmach zajmujących się zaawansowanym pakowaniem (OSAT - Outsourced Semiconductor Assembly and Test) szybkie przejście na technologie 3D zintegrowanego chłodzenia aktywnego i pasywnego. Firmy takie jak TSMC, Samsung czy SK Hynix będą musiały zrewidować swoje procesy produkcyjne w kierunku hybrydowego bondingu (hybrid bonding) oraz precyzyjnego zarządzania ciepłem wewnątrz struktur wielowarstwowych. Wymaga to nie tylko nowych materiałów termoprzewodzących, ale również zmian w architekturze samych kości DRAM, które muszą stać się bardziej odporne na wysokie temperatury robocze GPU. Patrząc w przyszłość, wertykalna integracja DRAM stanie się prawdopodobnie standardem w systemach klasy superkomputerowej i centrach danych obsługujących duże modele językowe (LLM). Choć wdrożenie masowe wymaga jeszcze dopracowania technologii chłodzenia wnękowego, imec udowodnił, że fizyczne ograniczenia termiczne, które dotychczas blokowały rozwój 3D-DRAM, mogą zostać skutecznie obejście. Dla inwestorów i decydentów technologicznych oznacza to, że następna generacja akceleratorów AI będzie nie tylko szybsza, ale również drastycznie inaczej skonstruowana, co faworyzuje graczy posiadających unikalne know-how w dziedzinie zaawansowanej integracji 3D.