Прорыв в проектировании архитектур ИИ: симулятор PIMID открывает эру вычислений в памяти

Недавняя публикация исследователей из RIKEN, Университета Кэйо, Лос-Аламосской и Оукриджской национальных лабораторий знаменует собой важный этап в преодолении «памяти-стенки» (memory wall), которая долгое время сдерживала развитие высокопроизводительных вычислений и искусственного интеллекта. Разработка симулятора PIMID (Processing-in-Memory with Intricacy and Diversity) является критически важным ответом на нехватку физического оборудования для тестирования концепций PIM. Способность симулятора поддерживать 11 различных технологий памяти позволяет архитекторам чипов моделировать системы будущего с беспрецедентной точностью. Влияние на индустрию будет колоссальным. Традиционная архитектура фон Неймана, основанная на разделении процессора и памяти, перестала удовлетворять потребности современных нейросетей, где передача данных между CPU/GPU и DRAM поглощает до 90% энергии. Внедрение PIM-решений радикально меняет этот ландшафт, предлагая энергоэффективность на порядки выше существующих стандартов. Симулятор PIMID позволяет компаниям-разработчикам (Fabless) и производителям памяти (IDM) проводить глубокую оптимизацию аппаратного обеспечения до этапа создания дорогостоящих прототипов, что сокращает Time-to-Market и риски R&D. С точки зрения цепочки поставок, это решение может спровоцировать трансформацию рынка DRAM. Мы ожидаем, что производители памяти, такие как Samsung, SK Hynix и Micron, получат дополнительный стимул для интеграции вычислительных блоков непосредственно в кремниевые кристаллы памяти. Это переведет память из разряда «пассивного компонента» в «интеллектуальный ускоритель». Для производителей литографического оборудования и разработчиков EDA-инструментов это означает появление новых требований к проектированию систем 3D-компоновки и гибридных модулей. Перспективы развития данной технологии указывают на окончательный отказ от монолитных процессоров в пользу гетерогенных вычислительных систем, где вычисления происходят максимально близко к хранилищу данных. PIMID дает инструментарий, чтобы превратить теоретические преимущества PIM в коммерчески успешные продукты. В ближайшее десятилетие мы увидим переход от экспериментальных образцов к массовым серверам для глубокого обучения, построенным на базе PIM-архитектур, что позволит значительно снизить эксплуатационные расходы дата-центров и ускорить обучение моделей ИИ следующего поколения.