ИИ-сервис MTS AI для защиты от дипфейков
Компания MTS AI представила разработанное ею решение для детекции дипфейков, запрещенного контента и материалов, сгенерированных ИИ. Сервис предлагает следующий функционал:
- выявление всех основных типов дипфейков, включая замену и синтез лиц, а также полностью сгенерированные медиафайлы;
- аудиодетекция речи, созданной ИИ. Система обеспечивает верификацию на протяжении всего разговора с точностью 99%;
- детекция запрещенного контента. Сервис позволяет находить сцены с демонстрацией алкоголя, наркотиков, оружия и экстремистской символики.
Детекторы дипфейков и запрещенного контента анализируют видео, аудио или изображения с помощью нейросетей, обученных на специальных наборах данных. В случае с дипфейками нейросети способны выявлять несоответствия, которые обычно не видны человеку: неправильные тени или неестественные движения лицевых мышц, особенности тембра голоса или шумы. Нейросеть также понимает, как один фрагмент видео- или аудиозаписи связан с другими, и учитывает интонацию голоса, паузы или длительность звуков.
Важно постоянное дообучение сетей, чтобы они могли адаптироваться к все более сложным дипфейкам или новому виду запрещенного контента.
Как поясняют в MTS AI, система устанавливается в контур компании, а алгоритмы регулярно обновляются на базе наиболее актуальных технологий. Система не замедляет идентификацию пользователей и не усложняет бизнес-процессы заказчиков.
Сервис может быть использован в различных сферах, таких как:
- социальные сети и медиаплатформы – для автоматической модерации пользовательского контента, выявления поддельных аккаунтов, борьбы с дезинформацией и фейками, для защиты несовершеннолетних от неприемлемого контента;
- корпоративный сектор – для проверки подлинности участников видеоконференций, а также защиты топ-менеджмента от манипуляций с корпоративными коммуникациями;
- телеком – для предотвращения мошенничества, модерации корпоративного контента, выявления поддельных обращений от имени компании;
- HR и рекрутинг – для проверки подлинности видеоинтервью и документов кандидатов, для защиты от мошенничества при удаленном найме;
- образовательные платформы – для защиты от мошенничества при сдаче онлайн-экзаменов, проверки подлинности выполнения домашних заданий и обеспечения безопасной онлайн-среды для обучения.
Для создания решения были использованы разработки MTS AI и решения VisionLabs. Решения VisionLabs сертифицированы по международному стандарту ISO/IEC 30107-3 с 0% успешных попыток взлома в рамках тестирования.