Компания «РТ-Информационная безопасность», входящая в «Ростех», разработала способ выявления так называемого «теневого ИИ» на рабочих компьютерах. Речь идет об ИИ-агентах и связанных с ними инструментах, которые сотрудники используют без контроля службы информационной безопасности.
Решение работает на базе RT Protect EDR и позволяет определять не только наличие ИИ-программ, но и их действия на устройстве. Система учитывает, от имени какого пользователя запущен агент, к каким данным он обращается и какие команды выполняет.
Как сообщает «Компьютерра», ИИ-агенты могут читать и изменять файлы, запускать команды, работать с локальными и внешними моделями, а также использовать плагины и инструменты автоматизации браузера. Поскольку агент действует с правами учетной записи сотрудника, он потенциально получает доступ к тем же репозиториям, ключам и конфигурационным файлам.
При создании системы специалисты изучили Claude Code, OpenAI Codex, GitHub Copilot CLI, Gemini CLI, Cursor, Cline, OpenHands и локальную среду Ollama. Они анализировали процессы, файлы, каталоги, способы установки программ и сетевые обращения.
Исследование показало, что определить работу ИИ-агента только по сетевому трафику или факту установки программы недостаточно. Локальные модели могут работать без обращения к внешним сервисам, а сами инструменты запускаются разными способами и не всегда видны в перечне корпоративного программного обеспечения.
На основе исследования созданы два пакета экспертизы для RT Protect EDR. «Контроль ИИ-агентов» отслеживает запуск и поведение таких программ, а пакет «Теневой ИИ» выявляет несанкционированные клиенты, локальные модели и каналы обращения к внешним ИИ-сервисам.