Новое поколение графических ускорителей AMD Instinct

Компания AMD представила свой новый графический ускоритель Instinct MI300X, построенный на базе архитектуры AMD CDNA 3 и предназначенный для генерирующих новый контент систем ИИ (generative AI) и создания и использования моделей Large Language Model (LLM).

AMD Instinct MI300X оборудован 304 вычислительными модулями Compute Unit (CU) и имеет 192 Гбайт памяти HBM3 с пиковой пропускной способностью 5,3 Тбайт/с. По сравнению с предыдущим поколением графических ускорителей Instinct MI250X новый ускоритель обеспечивает увеличение на 40% числа CU, увеличение в 1,5 раза объема памяти и в 1,7 раза – ее пиковой производительности, а также поддержку форматов исходных данных FP8 и sparsity.

Кроме того, по утверждению AMD, платформа Instinct Platform с 8 ускорителями MI300X работает до 1,6 раз быстрее при обработке данных с помощью LLM, чем выпущенная в ноябре платформа H100 HGX от Nvidia.

AMD также представила модуль Акселератора – Accelerated Processing Unit (APU) Instinct MI300A, состоящий из 228 вычислительных модулей CU с архитектурой CDNA 3 и 24 ядрами центрального процессора (CPU) с архитектурой Zen 4. Это устройство предназначено как для высокопроизводительных вычислений, так и для задач ИИ.

Источник: www.itbestsellers.ru