Byte/RE ИТ-издание

Большая языковая модель MTS AI

Компания MTS AI выпустила открытую большую языковую модель (LLM) Cotype Nano для решения бизнес-задач, связанных с созданием и анализом текстов на русском языке. Модель можно запускать локально на персональных устройствах – мобильных телефонах, настольных компьютерах и ноутбуках со средней производительностью; как отмечают в компании, это делает ее доступной для широкого круга пользователей.

Веса модели – параметры, которые она использует для принятия решений, – открыты для исследователей и разработчиков. Это позволяет им изучать, как модель работает, настраивать ее под свои нужды и использовать в собственных проектах без необходимости строить все с нуля.

Как отмечают в MTS AI, модель продемонстрировала лучшие результаты в своем классе на бенчмарке Ru Arena Hard – первой в России открытой независимой платформе для оценки LLM-моделей на русском языке. В рамках тестирования оценивается точность, качество и релевантность ответов на вопросы пользователей по сравнению с другими моделями.

Cotype Nano способна обрабатывать контекст до 32,000 токенов (около 45 страниц текста) за раз, что позволяет работать с большими объемами данных. Модель обучена для создания контента, точных и быстрых переводов между русским и английским языками, обработки и анализа текстовых данных для улучшения клиентского сервиса, она также может быть использована для разработки чат-ботов и виртуальных помощников. Кроме того, модель имеет продвинутые возможности классификации данных, что необходимо для таких сценариев, как автоматический поиск и анализ информации в корпоративных базах знаний.

Cotype Nano оптимизирована для работы на CPU и GPU, с дополнительной оптимизацией под процессоры Intel, что позволяет запускать ее на ноутбуках и даже смартфонах и делает модель доступной для широкого круга разработчиков и компаний, у которых нет доступа к мощным вычислительным ресурсам.

Вам также могут понравиться