Платформа Cloud.ru для обучения ИИ-моделей в облаке
Провайдер Cloud.ru объявил о запуске в коммерческую эксплуатацию Evolution Stack.ML – платформы для распределенного обучения ИИ-моделей и разработки ИИ-приложений в частном и гибридном облаке. Теперь крупный бизнес и госкомпании могут работать с ИИ, используя собственные вычислительные мощности, а при необходимости масштабироваться в публичное облако. Evolution Stack.ML обеспечивает полный контроль над данными и соответствие требованиям регуляторов по безопасности.
В основе платформы лежит сервис Evolution Distributed Train – инструмент для обучения и тюнинга моделей машинного обучения, их ускоренного развертывания и совместной работы команд дата-сайентистов. Платформа объединяет инструменты для разработки, управления экспериментами и мониторинга в единую экосистему.
В Evolution Stack.ML пользователи могут запускать изолированные рабочие пространства для более чем 200 команд одновременно. Механизмы очередей, приоритетов, аллокаций и спотов позволяют распределять нагрузку между задачами, достигая высокого уровня утилизации GPU-инфраструктуры и снижая стоимость ее эксплуатации. Платформа позволяет добиться роста утилизации GPU с 35 до 90%, что окупает расходы на серверные мощности менее чем за 3 месяца. За счет совместного использования кластеров удается нарастить скорость обучения и разработки новых ИИ-решений на 20%.
Встроенные механизмы восстановления (self-healing) автоматически обнаруживают сбои оборудования, перезапускают задачи и заменяют GPU-ноды, обеспечивая стабильное выполнение распределенных задач обучения даже на больших кластерах. OSS-слой в составе облачной платформы Cloud.ru позволяет отслеживать загрузку инфраструктуры и контролировать расходы.
Решение открывает возможности для применения ИИ в компаниях с высокими требованиями к безопасности – из государственного и финансового секторов, операторами ЦОДов, промышленными предприятиями. Инфраструктура отвечает требованиям регуляторов к обработке и хранению персональных и финансовых данных, а также к размещению ГИС и КИИ.