Серверы «Гравитон» для работы с нейросетью DeepSeek

Компания «Гравитон» объявила, что расширила свое предложение серверного оборудования для обработки задач, связанных с ИИ, тремя GPU-серверами для работы с нейросетью DeepSeek. Платформы созданы на базе сервера «Гравитон» С2122ИУ с материнской платой «Урал» отечественной разработки и включают от двух до шести производительных графических ускорителей с тензорными ядрами. Серверы включены в Единый реестр промышленной продукции Минпромторга России.

Новые реестровые серверы подготовлены к локальной работе c генеративными моделями, в частности с DeepSeek. Выбор DeepSeek обусловлен открытостью, масштабируемостью и готовностью ИИ-модели к использованию на практике. Как отмечают в компании, на ее базе можно развернуть сервисы с защитой ключевых данных, настроить системы и сценарии работы с учетом специфики отрасли – промышленность, здравоохранение, логистика, банкинг и др. Несмотря на общую сложность технологического стека и быстрого обновления моделей ИИ, серверное решение «Гравитон» с DeepSeek оптимизировано и готово к высокопроизводительной работе.

Технические характеристики новых серверов:

•              до трех двухслотовых GPU-карт или шесть однослотовых GPU-карт;

•              до двух процессоров  lntel Xeon Scalable 4-го и 5-го поколения;

•              оперативная память до 8 Тбайт;

•              до 27 SFF HDD с горячей заменой, всего до 29 накопителей;

•              корпус высотой 2U с системой вентиляции, которая обеспечит работу оборудования под высокими нагрузками;

•              совместимость с РЕД ОС и РОСА «Хром».

Решение с DeepSeek поддерживает работу ИИ для архитектуры x86, запуск PaaS-сервисов для создания ПО с ИИ. Оно включает работу с широким набором репозиториев моделей и развертывание сервисов «в один клик».

Сервер «Гравитон» С2122ИУ обеспечивает несколько вариантов экономичных решений с использованием операций с плавающей запятой FP16. Это позволяет значительно повысить точность по сравнению с INT8, снижая уровень ошибок при генерации длинных текстов, мультимодальном выводе, создании изображений и т.д.