Комплекс услуг Infosecurity для безопасности ИИ
Компания Infosecurity «Софтлайн Решения» (ГК Softline) объявила о запуске нового направления услуг по безопасности систем искусственного интеллекта. Новая практика объединяет техническую экспертизу в области кибербезопасности и подходы к управлению ИИ, помогая компаниям безопасно внедрять, использовать и масштабировать решения на базе ИИ.
Как поясняют в компании, вместе с новыми возможностями, которые дает ИИ, появляются и новые вызовы: утечки конфиденциальной информации через ИИ-сервисы, теневое использование нейросетей сотрудниками, уязвимости LLM-приложений, ошибки моделей, отсутствие единых процессов управления ИИ и распределения ответственности. Отвечая на запрос бизнеса на безопасное применение технологий ИИ, Infosecurity запустила комплексное направление по безопасности ИИ-систем. Компания предлагает услуги по оценке зрелости практик защиты ИИ, оценке рисков безопасности ИИ-систем, Red Teaming LLM-приложений, внедрению процессов LLMSecOps, разработке корпоративного фреймворка управления безопасностью ИИ, а также подготовке к сертификации по международному стандарту ISO/IEC 42001.
Оценка зрелости позволяет определить текущий уровень развития процессов управления и защиты ИИ в компании, выявить ключевые пробелы и сформировать дорожную карту развития. Оценка рисков помогает определить наиболее критичные угрозы с учетом архитектуры, используемых моделей и бизнес-контекста организации.
Одним из наиболее востребованных направлений новой практики в компании называют Red Teaming LLM-приложений. В рамках работ пентестеры Infosecurity тестируют ИИ-системы на устойчивость к актуальным угрозам, включая промпт-инъекции, обход механизмов защиты, утечки данных через модели и другие сценарии атак, описанные в OWASP Top 10 for LLM Applications.
Для организаций, которые внедряют ИИ в процессы разработки и эксплуатации, эксперты Infosecurity помогают выстраивать подходы LLMSecOps, интегрируя требования безопасности в жизненный цикл ИИ-систем. Дополнительно заказчики могут разработать корпоративный фреймворк управления ИИ, включающий роли, процессы, внутренние политики и требования к использованию ИИ в компании.
Отдельное направление услуг – подготовка к сертификации по стандарту ISO/IEC 42001, первому международному стандарту, устанавливающему требования к системе менеджмента ИИ. Эксперты Infosecurity помогают организациям оценить готовность к сертификации, выстроить необходимые процессы и подготовить к успешному прохождению внешнего аудита.
Новое направление услуг ориентировано на организации, использующие или планирующие использовать технологии ИИ в корпоративных системах, клиентских сервисах, аналитике данных, разработке ПО и других бизнес-процессах.