NVIDIA DGX Station A100 – ЦОД-в-коробке для задач ИИ

Компания NVIDIA представила DGX Station A100 – интегрированный сервер петафлопсного уровня для рабочих групп. Система искусственного интеллекта второго поколения DGX Station A100 ускоряет выполнение сложных задач машинного обучения и обработки данных для команд, работающих в офисах корпораций, исследовательских центрах, лабораториях или домашних офисах.

Как подчеркивают в компании, DGX Station A100 с производительностью в 2,5 петафлопс в задачах ИИ – это единственный сервер для рабочих групп с четырьмя новейшими GPU NVIDIA A100 с тензорными ядрами, объединенными интерфейсом NVIDIA NVLink, с объемом памяти до 320 Гбайт, способный обеспечивать новые прорывы в области обработки данных и ИИ. Это также единственный сервер рабочей группы, поддерживающий технологию NVIDIA MIG (Multi-Instance GPU). Благодаря этой технологии с помощью одной станции DGX Station A100 можно организовать до 28 отдельных инстансов для выполнения параллельных задач и работы нескольких пользователей без снижения производительности системы.

Хотя DGX Station A100 не требует питания или охлаждения уровня ЦОД, это система серверного класса, которая имеет те же возможности удаленного управления, что и NVIDIA DGX A100 для ЦОД. Системные администраторы могут выполнять любые задачи управления через удаленное соединение для специалистов по обработке данных и исследователей, работающих дома или в лабораториях.

Система DGX Station A100 доступна с четырьмя GPU NVIDIA A100 80GB или 40GB с тензорными ядрами, что позволяет группам исследователей выбрать систему в соответствии с их рабочими нагрузками и бюджетами.

По данным производителя, DGX Station A100 показывает более чем в 4 раза высокую скорость, чем DGX Station предыдущего поколения, в работе со сложными моделями диалогового ИИ, например, в инференсе BERT Large. Она также обеспечивает почти трехкратное повышение производительности в обучения BERT Large.

NVIDIA также объявила, что для больших рабочих нагрузок уровня ЦОД системы DGX A100 будут доступны с новыми графическими процессорами NVIDIA A100 80GB, с удвоенным объемом памяти до 640 Гбайт на систему, что позволит специалистам по ИИ повысить точность с помощью более крупных наборов данных и моделей.

Новые системы NVIDIA DGX A100 640 Гбайт также могут быть интегрированы в корпоративные решения NVIDIA DGX SuperPOD, что позволит организациям создавать, обучать и развертывать массивные модели ИИ на готовых ИИ-суперкомпьютерах, доступных в сборках по 20 систем DGX A100.

Среди первых систем DGX SuperPOD с DGX A100 640 GB на борту – суперкомпьютер Cambridge-1, установленный в Великобритании для ускорения исследований в области здравоохранения, а также новый ИИ-суперкомпьютер HiPerGator в Университете Флориды, который будет применяться для исследований с использованием ИИ.

Системы NVIDIA DGX Station A100 и DGX A100 640GB будут доступны в текущем квартале у партнеров NVIDIA по всему миру. Для владельцев NVIDIA DGX A100 320GB доступен вариант апгрейда системы.