LLM-лаборатория Naumen

Компания Naumen объявила о запуске лаборатории LLM для применения технологий генеративного ИИ в экосистеме продуктов компании. Первым проектом станет модуль Naumen GPT для системы управления знаниями в клиентском сервисе.

Naumen начала тестирование больших языковых моделей (Large Language Models, LLM) в продуктах компании, чтобы найти способы применения технологии с понятной выгодой для бизнеса. Большие языковые модели позволяют обобщать, понимать и генерировать тексты на разных языках, а также поддерживают интерактивный диалог.

Первым реализованным проектом должен стать интеллектуальный ассистент Naumen GPT AssistTool, который встраивается в систему управления знаниями Naumen KMS. Задача ассистента – сделать работу сотрудников контактных центров проще и удобнее. В основе решения лежат модели open source, а в перспективе возможна интеграция с российскими вендорами LLM.

Naumen GPT анализирует статьи из базы знаний и генерирует человекоподобный ответ, который можно сразу использовать в диалоге с клиентом. Следуя политике распространения информации, он формирует ответы в рамках той зоны базы знаний, к которой у пользователя есть доступ. Каждый ответ снабжается ссылками на источники или дает сниппеты статей как подтверждение того, что ответ сгенерирован на основе реальных данных. Ответы можно оценить с точки зрения полезности для дальнейшего обучения и корректировки поведения системы.

По данным компании, LLM-модуль в два раза ускоряет поиск информации и подготовку ответов в ситуациях, когда в базе знаний нет готового ответа на вопрос или когда для сбора информации нужно задействовать несколько статей, например, при сравнении продуктов. Он также способен обрабатывать сложные и составные вопросы.

Naumen готовится к тестированию решения на пилотных проектах с клиентами, которые уже используют ее систему управления знаниями. LLM-практика также изучает возможность применения технологий GenAI и в других продуктах компании. Например, в процессе создания текстовых и голосовых ботов LLM-модели могут помочь сделать ответы бота более гибкими и эмпатичными. Среди решений в фокусе внимания практики такие продукты Naumen, как  Contact Center, Erudite, LMS, Conversational Intelligence, Service Desk Pro, Project Ruler.