Новые GPU Nvidia в инфраструктуре «Турбо Облако»
Облачный провайдер «Турбо Облако» (входит в ГК РТК-ЦОД) объявил о расширении линейки доступных графических ускорителей. В сервисе «Виртуальная инфраструктура с GPU» появился ускоритель нового поколения Nvidia RTX PRO 6000 Blackwell Server Edition.
Nvidia RTX PRO 6000 построен на архитектуре Blackwell, имеет тензорные ядра пятого поколения и поддерживает разные форматы вычислений. Он подходит для запуска больших языковых моделей, включая локальный инференс моделей до 70 млрд параметров, а также для их адаптации и более тонкой настройки под конкретные задачи в рамках одного узла, квантования, разработки RAG-систем и ИИ-ассистентов. Возможности графического ускорителя не ограничиваются машинным обучением: он рассчитан также на профессиональную графику, 3D-визуализацию, рендеринг и обработку видео.
Одна из главных особенностей RTX PRO 6000 Blackwell – 96 Гбайт видеопамяти, которые позволяют размещать ИИ-модели на одном GPU, оставляя достаточно памяти для его работы. В некоторых сценариях это снижает необходимость распределять одну модель между несколькими ускорителями и упрощает конфигурацию инфраструктуры.
Еще одна особенность RTX PRO 6000 Blackwell – аппаратная поддержка FP4, формата вычислений с меньшей разрядностью, чем FP8 и FP16. Меньшая разрядность позволяет снизить требования к памяти и в подходящих сценариях повысить эффективность вычислений. При этом ускоритель поддерживает и форматы FP8, FP16 и FP32, поэтому его можно использовать для разных вычислительных нагрузок.
В «Турбо Облаке» доступны конфигурации от одного до восьми RTX PRO 6000 Blackwell в одной виртуальной машине. Для GPU предусмотрен выделенный доступ без соседей на инстансе, высокопроизводительное хранилище и высокоскоростной сетевой интерфейс. Для работы с ИИ в сервисе доступны готовые образы с CUDA, PyTorch, TensorFlow, vLLM и Triton Inference Server – можно использовать привычный стек без самостоятельной подготовки базового окружения.
GPU Nvidia RTX PRO 6000 Blackwell дополняет доступные в «Турбо Облаке» L40S и H200. Первый из них ориентирован на инференс моделей среднего размера, графику и рендеринг, а второй рассчитан на более ресурсоемкие сценарии, включая крупномасштабное обучение и инференс тяжелых моделей в составе ИИ-кластеров.