ИИ-модели третьего поколения от MWS AI
Компания MWS AI (МТС Web Services) выпустила Cotype Pro 3 и Cotype Light 3 – языковые модели третьего поколения, способные работать одновременно с текстом и изображениями. Размер моделей – 27 и 9 млрд параметров соответственно. Они предназначены для построения промышленных ИИ-агентов – программ, способных самостоятельно выполнять многошаговые задачи без участия человека.
Для оценки агентских возможностей MWS AI разработала собственный набор из 178 бизнес-сценариев. Каждая задача ставит модель в одну из пяти реальных рабочих ролей и проверяет, как агент пользуется доступными инструментами, соблюдает бизнес-правила и доводит задачу до результата. Это роли оператора поддержки (вопросы по услугам, подпискам и списаниям абонента), консультанта по тарифам (подбор и смена тарифного плана под реальное потребление), кадрового специалиста (расчет отпускных и больничных, работа с документами), аналитика по компаниям (составление досье на юрлицо по ИНН – финансы, руководители, связи с другими организациями) и инспектора налоговых рисков (расследование схем переноса бизнеса между компаниями и решение о назначении проверки). Тест измеряет два показателя: долю сценариев, в которых модель полностью выполнила задачу, и показатель воспроизводимости – насколько стабильно модель решает одну и ту же задачу при многократном обращении. Cotype Pro 3 показала результат 92,2% и 79,1%, Cotype Light 3 – 88,6% и 73,9%. Предыдущая версия Cotype Pro 2.6.1 – 80,5% и 62,5%.
Как подчеркивают в MWS AI, отдельное внимание при разработке Cotype Pro 3 было уделено качеству русскоязычной генерации. Компания разработала собственную метрику, которая проверяет, насколько стабильно модель остается в русском языке и не проводит языковых деградаций – случайных переходов на другой язык, бессмысленных повторов или искажений текста. Тест проводился на корпусе из почти 304 тыс. слов. Модель сгенерировала 99,79% русского текста без языкового дрейфа.
Обе модели можно развернуть в закрытом контуре на серверах заказчика, в том числе под управлением ОС Astra Linux, и дообучить на корпоративных данных. Модели доступны как отдельно, так и в составе MWS AI Agents Platform. Контекстное окно обеих моделей составляет 262 тысячи токенов. Этого достаточно, чтобы модель одновременно удерживала в памяти документ или архив объемом около 600 страниц текста на русском языке. Модели могут работать на видеокарте A100, что делает внедрение ИИ-агентов на базе Cotype Pro 3 и Cotype Light 3 доступным для широкого круга компаний. По данным компании, квантование и технология одновременного предсказания нескольких токенов (MTP) позволяют запускать модели на менее производительном оборудовании и обеспечивают более высокую скорость генерации, чем у решений сопоставимого класса, без потерь в качестве.
MWS AI обучает Cotype Pro 3 и Cotype Light 3 и другие модели на облачных мощностях MWS Cloud. В ходе тестирования компания также подтвердила полную технологическую совместимость моделей семейства Cotype со всеми компонентами отечественных программно-аппаратных комплексов.