Сервер РСК с графическими ускорителями NVidia для задач ИИ и ML
Группа компаний РСК продемонстрировала разработанное ее специалистами новое серверное решение «РСК Экзастрим ИИ» c восемью графическими ускорителями NVidia H100 и прямым жидкостным охлаждением. Производительность такого высокоплотного вычислительного узла составляет 208 Тфлопс (FP64). При установке 21 сервера в шкаф «РСК Экзастрим» можно достичь пиковой производительности 4,26 Пфлопс (FP64).
Решение «РСК Экзастрим ИИ» представляет собой вычислительный сервер с пулом графических карт (GPGPU) с прямым жидкостным охлаждением, попарно объединенных мостами на базе технологии высокоскоростных соединений NVLink для обеспечения быстрой передачи данных между графическими процессорами (GPU). Кроме того, оно имеет локальную подсистему хранения «теплых данных», сетевую подсистему с доступом на основе технологии GPUDirect. Реализована также возможность расширения ресурсов путем подключения дополнительных пар GPU или системы внешнего хранения данных на базе пула твердотельных дисков (JBOF), подключаемой напрямую к серверу.
Технические характеристики сервера «РСК Экзастрим ИИ»:
- высота узла 2U, установка в шкаф «РСК Экзастрим» (21 узел в 42U);
- два процессора Intel Xeon Platinum 4-го или 5-го поколения;
- до 8 графических ускорителей NVidia H100 или H200 NVL (интерфейс PCIe);
- 32 модуля оперативной памяти суммарным объемом до 2 Тбайт;
- до 128 Тбайт емкости хранения данных на базе 8 SSD-дисков с интерфейсом NVMe;
- 4 сетевые карты с пропускной способностью до 800 Гбит/с;
- 4 блока питания производства РСК;
- система прямого жидкостного охлаждения разработки РСК;
- система управления и мониторинга «РСК БазИС 4».
Сервер «РСК Экзастрим ИИ» предназначается для решения ресурсоемких задач в области машинного обучения и искусственного интеллекта, а также для создания мощных вычислительных ресурсов облачных провайдеров и в частных облаках.
Два узла «РСК Экзастрим ИИ» уже установлены в суперкомпьютер «Говорун», созданный в 2018 г. в Лаборатории информационных технологий им М.Г. Мещерякова Объединенного института ядерных исследований (ЛИТ ОИЯИ) в Дубне.