Источник изображения: TechCrunch
Microsoft представила новые инструменты безопасности для защиты компаний от угроз, связанных с искусственным интеллектом и автономными ИИ-агентами. Одним из ключевых решений стали Guardian Agents — «агенты-хранители», предназначенные для наблюдения за цифровыми помощниками, используемыми внутри организаций. О запуске компания объявила 19 октября 2026 года.
Guardian Agents входят в состав Project Perception, представленного Microsoft в июне. Изначально проект включал три группы инструментов: «красную команду», имитирующую действия хакеров, «синюю команду», выявляющую атаки и оценивающую найденные уязвимости, а также «зелёную команду», которая должна была устранять проблемы. Концепция строилась вокруг защиты от внешних атак с применением ИИ.
Теперь Microsoft рассматривает угрозу иначе. Глава компании Сатья Наделла предупреждает, что опасность может исходить от самих агентов, которым организации предоставляют доступ к данным и рабочим системам. По его словам, такие программы способны превратиться в аналог недобросовестного сотрудника — так называемую внутреннюю угрозу.
Ранее в личном блоге Наделла призвал компании не полагаться исключительно на заверения разработчиков моделей об их безопасности. Он считает, что контроль над агентами должны осуществлять отдельные системы, не подчиняющиеся лабораториям, которые создают эти технологии. «Мы должны отделить поставку интеллекта от полномочий распоряжаться им», — написал руководитель Microsoft.
Руководитель направления безопасности Microsoft Хайете Галлот сформулировала позицию компании ещё жёстче: «К сожалению, передовым моделям, независимо от их происхождения, нельзя доверять». Она пояснила, что причина не обязательно связана со злонамеренностью или лёгкой уязвимостью таких систем. Модели обучены выполнять задачи, но не следовать организационным нормам и самостоятельно принимать решения с учётом контекста, при этом им нередко предоставляют доступ к данным и инструментам, способным причинить серьёзный ущерб.
Помимо Guardian Agents, Microsoft добавила в Microsoft Defender функцию обнаружения до 60 типов агентов, которые сотрудники используют на рабочих местах, включая Claude Code, Codex и OpenClaw. Новые средства также ограничивают доступ программ к данным и системам, меняют разрешения в зависимости от выполняемой задачи и требуют одобрения человека, если агент принимает потенциально опасное решение. Как сообщает TechCrunch, Microsoft одновременно развивает это направление в рамках отраслевых инициатив: компания стала одним из первых участников платформы Nvidia Open Agent Safety Platform, поддержанной более чем 100 технологическими компаниями.