Решение IT_ONE для сортировки почты на базе LLM
Компания IT_ONE представила разработанное ею решение для автоматической маршрутизации корпоративной почты в крупных компаниях. Большая языковая модель (LLM) анализирует письма и переадресует их в профильное подразделение к нужным специалистам. Решение ускоряет обработку входящих сообщений, уменьшает количество ошибок из-за человеческого фактора, снижает затраты на маршрутизацию писем.
Как поясняют разработчики, в крупных компаниях с разветвленной структурой существует большой поток внутренней корреспонденции. Письма от разных подразделений поступают в единый центр сортировки, а его операторы передают входящие запросы на исполнение в соответствующую службу. Ручной процесс часто сопровождается ошибками, которые приводят к срывам сроков выполнения задач и финансовым потерям, кроме того, компании вынуждены содержать штат операторов. В итоге на рынке появился запрос на автоматизацию маршрутизации корпоративной почты.
IT_ONE разработала способ дообучения открытой LLM для классификации писем в крупном холдинге. Тестовая версия модели обучена на 33 тыс. сообщений с 55 тыс. вложений, имеющих разный формат (документы, архивы, сканы, изображения и т.д.). Задача требовала научить модель обрабатывать около 500 тысяч потенциальных сочетаний классов при наличии в данных 2,2 тыс. уникальных комбинаций целевых записей.
Разработчики дообучали модель в условиях существенной несбалансированности предоставленных данных – от 1 до примерно 8500 экземпляров на класс. Кроме того, обучение модели затруднялось сложным составом данных – ошибками разметки сообщений и схожими названиями классов при разных объектах. Готовая модель, по данным разработчиков, классифицирует одно письмо за 3–12 секунд в зависимости от размера сообщения и вложения, точность классификации составляет 90%.
Решение может быть дообучено на датасете любой компании и развернуто внутри ее периметра в короткие сроки. При этом заказчик получает полный локальный контроль за решением и защиту данных, а также независимость от внешних факторов.
В процессе создания решения, комментируют в IT_ONE, было использовано несколько ноу-хау при работе с самой LLM, ее дообучении и взаимодействии с дообученной моделью в режиме конечной классификации. В итоге было создано решение, которое существенно ускоряет маршрутизацию корпоративных писем, снижает количество ошибок и сокращает затраты на поддержание этой функции в компании. Как отмечают разработчики, автоматизация только одной функции маршрутизации входящих обращений позволяет компаниям получить преимущества, связанные с оптимизацией бизнес-процессов и повышением скорости и качества принятия решений.