HBM-PIM память Samsung с возможностями для ИИ-вычислений

Компания Samsung Electronics объявила о разработке первой в отрасли памяти с высокой пропускной способностью (HBM), интегрированной с вычислительной мощностью искусственного интеллекта – HBM-PIM. Новая архитектура обработки (PIM) позволяет использовать возможности ИИ для ускорения обработки больших объемов данных в ЦОД, высокопроизводительных вычислений (HPC) и при использовании мобильных приложений с поддержкой ИИ.

Как известно, большинство современных вычислительных систем основаны на архитектуре фон Неймана, использующей отдельные блоки процессора и памяти для выполнения миллионов сложных задач при обработке данных. Такой подход требует, чтобы данные постоянно перемещались туда и обратно, что приводит к замедлению работы системы, особенно при обработке постоянно растущих объемов информации.

HBM-PIM вместо этого передает вычислительную мощность непосредственно туда, где хранятся данные, поскольку оптимизированный для DRAM ИИ-движок помещен в каждый банк памяти (подблок хранения), обеспечивая параллельную обработку и минимизируя перемещение данных. С решением Samsung HBM2 Aquabolt, отмечают в компании, новая архитектура способна вдвое повысить производительность системы при снижении энергопотребления более чем на 70%. HBM-PIM также не требует изменений в аппаратном или программном обеспечении, что позволяет ускорить ее интеграцию в существующие системы.

Как подчеркивают в Samsung Electronics, память HBM-PIM – первое в отрасли программируемое решение PIM, адаптированное для задач различных уровней сложности с использованием ИИ, таких как высокопроизводительные вычисления, обучение и логические процессы. Компания планирует развивать эту технологию за счет сотрудничества с поставщиками ИИ-решений. В настоящее время память Samsung HBM-PIM тестируется ведущими партнерами по ИИ-решениям в ускорителях ИИ. Ожидается, что эта работа будет завершена в первой половине 2021 года.