Новые видеокарты NVIDIA® B300 для крупномасштабных Al-нагрузок стали доступны в Selectel
Selectel, крупнейший независимый провайдер сервисов IT-инфраструктуры в России, обновил модельный ряд высокопроизводительных видеокарт — для аренды стали доступны серверы HGX™ с восемью картами NVIDIA® В300. Опция представлена в продуктовой линейке выделенных серверов и в скором времени появится в облаке, пользователи могут заказать необходимую конфигурацию через панель управления. Решение предназначено для клиентов, работающих с крупномасштабными ИИ-моделями, агентскими системами и
высокопроизводительными вычислениями
(НРС).
NVIDIA® B300 — это самая мощная видеокарта нового поколения в составе
HGX ™ системы с архитектурой Blackwell.
Объем памяти в 2 терабайта позволяет работать с большими ИИ-моделями. Карта быстро обменивается данными с другими компонентами системы — до 14,4 ТБ/с внутри сервера и до 1,6 Ты/с между серверами. По скорости работы это в 11 раз быстрее предыдущих моделей при работе с инференсом и в 2,6 раза быстрее при их обучении. Также в ней есть специальный чип
BlueField-3, который помогает защищать данные и управлять сервером на аппаратном уровне.
Новая платформа NVIDIA® HGX ™ B300, представленная в Selectel, подойдет для бизнеса, который работает с ИИ на продвинутом уровне: от стартапов, разрабатывающих собственные уникальные модели, до крупных компаний, которым нужно обеспечить бесперебойную работу ИИ-сервисов для миллионов пользователей.
Благодаря восьми мощным GPU, объединенным в одну систему, можно обучать большие ИИ-модели или мгновенно обрабатывать тысячи запросов в реальном времени, включая инференс с большим контекстом и числом пользователей, а также запуск нескольких моделей на одном сервере одновременно. Например, для работы чат-ботов, агентских систем или генерации контента. Помимо этого, серверы Selectel соответствуют 152-ФЗ и международным стандартам безопасности, а также имеют сертификат PCI DSS, поэтому подходят для отраслей с особыми требованиями регуляторов — финансовых, медицинских и государственных организаций.
Инфраструктура Selectel обеспечивает бесшовный переход с текущих ресурсов на новые мощности благодаря их полной совместимости с существующими программными стеками и продуктами провайдера. Модель аренды позволяет не инвестировать десятки миллионов в дорогостоящее железо и тестировать идеи быстро — от прототипа до промышленного масштаба. При этом бизнес получает гибкость и возможность быстрого масштабирования: можно запустить проект за час и увеличивать вычислительные мощности при необходимости. Помимо аренды мощностей в дата-центрах Selectel, доступна опция с арендой сервера для размещения на площадке заказчика.
Ознакомиться подробнее с решением и условиями аренды можно по ссылке.