LLM-платформа Axenix для создания чат-ботов

Компания Axenix представила LLM-платформу (Large Language Model) BotAx – решение на основе генеративного ИИ,  позволяющее клиентам использовать большие языковые модели для быстрого создания и внедрения чат-ботов.

Платформа BotAx построена на RAG-архитектуре (Retrieval-Augmented Generation – генерация с дополнительным поиском). При получении определенного запроса чат-бот подбирает релевантные данные в собственных базах знаний. Затем на этой основе он создает запрос для LLM, позволяющий обогатить ответ дополнительной информацией из сторонних баз данных, сделать его более корректным и полным. RAG также повышает удовлетворенность пользователей от процесса общения, подстраиваясь под стиль коммуникации и предлагая более релевантные ответы.

Платформа BotAx дает клиентам возможность создавать и использовать собственные специфичные настраиваемые чат-боты под широкий спектр задач – от HR и маркетинговой аналитики до обработки нормативной документации, формирования интерактивной базы знаний и генерации текста. При необходимости специалисты Axenix помогают грамотно интегрировать его с наиболее подходящей базой данных компании – реляционной, документоориентированной, графовой и т.д.

Предлагается два основных сценария использования платформы BotAx: выбор и кастомизация чат-бота из существующего набора (сегодня на платформе представлено около десяти моделей) или создание собственного чат-бота под задачи каждой конкретной компании.В будущем станет доступен еще один сценарий No-code – создание чат-бота из предложенных на платформе компонентов без программирования.

Как комментируют в компании, практика показывает, что open source генеративные модели, обученные на открытых данных интернета, содержат мало специфичных знаний по узким или специализированным направлениям и почти ничего не знают о конкретной компании. Именно поэтому RAG архитектура дает решение проблемы: объединение модели, обученной на общих данных, с базой знаний конкретной компании и внешними источниками. Команда Axenix, собранная из экспертов в области NLP, языковых моделей, генеративного ИИ, работает над развитием сервиса уже около полугода, проводя тестовые внедрения и учась работать с разными типами данных.

Еще одно преимущество платформы BotAx, отмечают в Axenix, в том, что ее можно использовать on-premise в защищенном закрытом контуре предприятия с эффективностью, сравнимой с публичными генеративными моделями, для решения специализированных задач.

На базе BotAx уже созданы бизнес-ассистент консультанта; ассистент металлурга, предоставляющий информацию об основных технологических процессах и нормативах на сталелитейном производстве; чат-бот для сопровождения базы знаний по цепочкам поставок; LLM общего назначения для безопасного решения широкого спектра задач внутри компании, а также чат-бот для Self-Service BI.