ИИ-серверы Fplus с отечественными компонентами

Компания Fplus объявила о начале производства серверов с ускорителями нейросетевых алгоритмов НТЦ «Модуль». Они представляют собой спецвычислители, подключаемые в слот расширения PCIe на материнской плате, и используются для реализации нейронных сетей, цифровой обработки сигналов и изображений. Компания протестировала и подтвердила совместимость нейроускорителей НТЦ «Модуль» со своими серверными решениями – двухсокетными и четырехсокетными серверами «Восход» и «Буран» (внесены в реестр Минпромторга).

НТЦ «Модуль» производит карты двух видов: NM Quad 20 Гбайт (большой модуль) и NM Card Mini 5 Гбайт (малый модуль). СМТ-монтаж карт выполняется в России. Компоненты работают под управлением ОС Astra Linux.

Спецвычислители NM Card mini и NM Quad во многом схожи с GPU-картами. В обоих изделиях применяются специализированные векторные сопроцессоры, организованные таким образом, чтобы работать параллельно. Но в видеокартах, помимо архитектуры векторных вычислителей, сделан упор на блоки для отрисовки графики. В картах НТЦ «Модуль»» отсутствуют соответствующие подсистемы и блоки, что принципиально отличает их от GPU.

Для тестирования было выбрано потоковое видео дорожной ситуации в Москве, так как требовался видеоряд с большим количеством автомобилей, чтобы обеспечить нагрузку на спецвычислители при распознавании объектов. Распознавание проводилось параллельно на всех четырех модулях NM Card Mini 5 Гбайт на базе модели YOLOv3-tiny. Результаты тестирования подтвердили, что решение позволит компенсировать сложность обработки чисел FP32 и FP64 и сократить время обработки в три раза.

Как отмечают в Fplus, решение пока уступает по быстродействию продуктам зарубежных вендоров, однако карты «Модуля» значительно дешевле и более энергоемкие. Хотя с их помощью еще нельзя обучать ИИ-модели, серверы с этими компонентами позволяют запускать нейронные сети, которые обучены на западных аналогах. К примеру, в банковской сфере можно будет спрогнозировать, как клиент будет выплачивать кредит, на базе скоринг-системы оценки, которая учитывает текущие и прошлые долги заемщика, наличие имущества, место работы, уровень зарплаты. Скоринг проводит искусственный интеллект, обученный на реальных примерах.

НТЦ «Модуль» ведет свои разработки с середины 90-х годов, развивая собственную архитектуру. С 1995 г. компания создает процессорные ядра и аналогово-цифровые системы-на-кристалле, разрабатывает и производит аппаратуру управления и контроля авиационных и космических систем, аппаратно-программные решения в области нейронных сетей, в том числе в части обработки видеопотока и изображений, навигации, связи, обнаружения и распознавания объектов.