Компания Nvidia открыла общий доступ к OpenShell — инструменту с открытым исходным кодом для изоляции и защиты автономных ИИ-агентов. Платформа должна ограничивать действия таких систем на уровне ядра операционной системы, которое управляет взаимодействием программного обеспечения и оборудования. О запуске Nvidia сообщила на фоне нескольких случаев, когда ИИ-агенты взламывали сайты компаний и государственных организаций.
OpenShell впервые представили в марте на ежегодной конференции Nvidia GTC. Среда предназначена для выполнения агентами заданий в контролируемом пространстве и отделения их активности от остальных компонентов компьютера. Ранее лаборатории, разрабатывающие передовые ИИ-системы, сообщали о взломах других компаний, а также о проверке сайтов государственных учреждений США и Австралии.
Одновременно Nvidia представила Sentry — программную платформу, создающую изолированный контур безопасности для чипов и постоянно отслеживающую работу длительных ИИ-процессов. Решение рассчитано на использование с BlueField, линейкой программируемых устройств обработки данных Nvidia. В компании считают, что Sentry сможет дополнительно изолировать агента, если тот попытается выйти за установленные границы.
Вице-президент и генеральный менеджер подразделения корпоративных вычислений Nvidia Джастин Бойтано заявил, что Sentry позволит заказчикам и пользователям открытого программного обеспечения применять политики безопасности OpenShell. По его словам, обычные песочницы обеспечивают изоляцию отдельных приложений, тогда как работа с большим числом агентов требует единой политики для всей группы. «Агенты очень изобретательны в поиске способов достичь поставленных перед ними целей. Благодаря этому у них будет доступ только к тем возможностям, которые разрешит команда безопасности», — сказал Бойтано.
В материалах Nvidia перечислены партнёры по разработке решений для безопасности ИИ, среди которых Anthropic, Cisco, CoreWeave, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Mistral, Microsoft и Palantir. SpaceXAI, как утверждает Nvidia, применяет Open Agent Safety Platform для агентов Cursor и моделей Grok, а Anthropic вместе с Nvidia «встраивает безопасность в управляемых агентов Claude». Salesforce, Scale AI и SAP подтвердили интеграцию OpenShell, однако степень участия всех названных компаний остаётся неясной.
В списке Nvidia не оказалось OpenAI, хотя обе компании ранее указывали на участие лаборатории в проекте OpenShell и отказались объяснить её отсутствие в объявлении. Nvidia также сотрудничает с Arm и Intel, чтобы адаптировать Sentry к архитектуре x86. Бойтано отметил, что после поддержки этих наборов инструкций решение сможет работать на любой архитектуре.