CIMERA: Đột phá Compute-in-Interconnect và Bộ nhớ – Lời giải cho bài toán 'Bức tường bộ nhớ' trong AI

Sự ra đời của kiến trúc CIMERA (Compute-in-Interconnect and Memory with Reconfigurable Precision) do các nhà nghiên cứu tại Đại học Quốc gia Singapore (NUS) đề xuất đánh dấu một bước ngoặt kỹ thuật quan trọng trong bối cảnh các mô hình ngôn ngữ lớn (LLM) đang chịu áp lực dữ liệu khổng lồ. Trong nhiều năm qua, 'bức tường bộ nhớ' (memory wall) đã trở thành rào cản lớn nhất khiến hiệu suất thực tế của các bộ tăng tốc AI không thể bắt kịp tốc độ tăng trưởng của thuật toán. Bằng cách tích hợp khả năng tính toán trực tiếp vào các lớp kết nối nội bộ (interconnect) và bộ nhớ, CIMERA giải quyết triệt để nút thắt cổ chai về dữ liệu, giảm thiểu năng lượng tiêu thụ do việc truyền tải dữ liệu giữa các phân vùng xử lý và lưu trữ. Xét về tác động công nghiệp, đây là một minh chứng cho xu hướng chuyển dịch mạnh mẽ từ kiến trúc Von Neumann truyền thống sang các hệ thống 'Xử lý tại bộ nhớ' (Processing-in-Memory - PIM). Đối với các gã khổng lồ bán dẫn như NVIDIA hay AMD, công nghệ này mở ra hướng đi mới trong việc tối ưu hóa kiến trúc GPU/NPU thế hệ tiếp theo, nơi băng thông bộ nhớ không còn là yếu tố giới hạn throughput. Sự linh hoạt trong việc cấu hình độ chính xác (reconfigurable precision) của CIMERA cho phép tối ưu hóa tài nguyên phần cứng cho nhiều tác vụ khác nhau, từ việc suy luận các mô hình cực lớn đến các tác vụ nhẹ hơn tại thiết bị biên (edge AI). Về khía cạnh chuỗi cung ứng, việc áp dụng rộng rãi công nghệ này có thể thúc đẩy nhu cầu đột biến đối với các công nghệ đóng gói tiên tiến (advanced packaging) như 2.5D hoặc 3D IC. Để tích hợp compute-in-interconnect vào silicon, các nhà sản xuất đúc chip (foundry) như TSMC hay Samsung sẽ phải thay đổi thiết kế thư viện IP và quy trình sản xuất bộ nhớ đi kèm. Điều này tạo áp lực nhưng cũng mở ra cơ hội kinh doanh mới cho các đơn vị cung cấp HBM (High Bandwidth Memory) và các nhà phát triển bộ điều khiển bộ nhớ (memory controller). Trong tương lai, các bộ tăng tốc như CIMERA sẽ định hình lại thị trường trung tâm dữ liệu AI, tập trung vào việc giảm TCO (tổng chi phí sở hữu) thông qua việc tăng hiệu suất năng lượng trên mỗi watt. Chúng ta có thể kỳ vọng rằng những nghiên cứu từ NUS sẽ sớm chuyển giao thành các bằng sáng chế thương mại, thúc đẩy sự ra đời của các con chip AI thế hệ mới, nơi mà giới hạn giữa tính toán và lưu trữ thực sự bị xóa nhòa, đưa khả năng suy luận LLM lên một tầm cao mới về tốc độ và hiệu quả.