Решения «Ростех» для выявления теневого ИИ
Компания «РТ-Информационная безопасность» (РТ-ИБ, входит в госкорпорацию «Ростех») представила пакеты экспертизы для выявления «теневого ИИ» – ИИ-агентов, которые используются на рабочих компьютерах без контроля службы ИБ. RT Protect EDR определяет не только наличие такого ПО, но и его активность: запуск команд, работу с файлами и другие действия на устройстве. Это поможет контролировать риски, связанные с доступом ИИ к корпоративным данным и системам.
Сотрудники компаний все чаще используют ИИ-агенты для работы с кодом и другими задачами непосредственно на рабочих компьютерах. Использование таких инструментов, отмечают в РТ-ИБ, само по себе не является признаком нарушения ИБ. Но ИИ-агент действует от имени пользователя и наследует его полномочия, а значит, потенциально может обращаться к репозиториям, ключам доступа, конфигурационным файлам и другим данным, доступным учетной записи. В связи с этим при оценке активности агента необходимо учитывать, от имени какого пользователя он работает, к каким данным обращается и какие действия выполняет.
Специалисты РТ-ИБ проанализировали распространенные ИИ-инструменты, включая Claude Code, OpenAI Codex, GitHub Copilot CLI, Gemini CLI, Cursor, Cline и OpenHands, а также локальную среду запуска моделей Ollama. Эксперты изучили особенности их работы на компьютере: запускаемые процессы, используемые файлы и каталоги, способы установки и сетевые обращения. На основе этих данных удалось определить признаки, по которым система может выявлять активность разных ИИ-агентов.
Как показало исследование, обнаружить такую активность только по сетевому трафику или наличию установленной программы невозможно. Локальные модели могут работать непосредственно на компьютере без обращения к внешним сервисам, а сами ИИ-инструменты – запускаться разными способами и не всегда отображаться в перечне корпоративного ПО. На основе результатов исследования эксперты РТ-ИБ сформировали два пакета экспертизы обнаружения и последовательности расследования для RT Protect EDR. Пакет «Контроль ИИ-агентов» фиксирует запуск и поведение агента на хосте, связывает его с учетной записью пользователя и показывает, к каким данным и командам он обращается. Пакет «Теневой ИИ» обнаруживает несанкционированные клиенты, локальные модели и каналы обращения к внешним сервисам.
Такой подход позволяет отличить установленный, но не используемый инструмент от ИИ-агента, который выполняет действия в рабочей среде, а также сохраняет применимость при появлении новых решений.