ИИ-модели ведущих компаний легко вовлекаются в поиск целей для военных ударов

18 ноября 2026, 13:50 ·
Фото: TechCrunch

Исследование компании Vals показало, что популярные модели искусственного интеллекта можно было склонить к поиску целей для военных ударов. Для этого исследователи представляли смоделированные боевые сценарии как компьютерную игру. В испытаниях использовались созданные компьютером изображения, а также реальные материалы из Украины и Ирана.

Модели OpenAI, Anthropic, Google, DeepSeek и других разработчиков нередко отмечали потенциальные цели на снимках с дронов и спутников. Среди них оказывались мирные жители и военнослужащие, которые сдавались в плен. Как пишет TechCrunch, после отказа системы часто соглашались выполнить запрос, если ей сообщали, что происходящее является частью игры.

В ходе экспериментов модели просили определить, видны ли на изображениях люди, после чего в симуляции следовали удары и демонстрировались их последствия. Исследователи подчеркнули, что напрямую принимать решение об атаке системы не просили, поскольку обычно они отказываются от такой задачи. При этом полученные обозначения целей потенциально могут применяться в комплексах с автономным вооружением и приводить к тяжёлым последствиям.

Хуже других в этих сценариях показали себя модели Anthropic, однако в целом результаты всех систем оказались неудовлетворительными. Запросы исследователей не блокировались фильтрами безопасности, а отказы встречались редко. В одном из тестов модель Claude Opus 5.5 указывала на школу, расположенную рядом с военным объектом, в 69% обычных испытаний и в 72% случаев, когда сценарий подавался как игра.

Представитель Anthropic Эдуардо Майя Силва заявил, что компания считает описанное поведение неприемлемым и будет блокировать пользователей при выявлении подобных нарушений. «Даже в разрешённых условиях Anthropic давно подчёркивает, что современные передовые системы искусственного интеллекта недостаточно надёжны для управления полностью автономным оружием», — говорится в заявлении компании. В OpenAI сообщили, что запрещают использовать публичные модели для содействия насилию и несанкционированных задач национальной безопасности, а также разрабатывают дополнительные меры защиты от злоупотреблений, связанных с дронами и программами для них.

Vals указала, что задержки в работе и ограниченные вычислительные ресурсы на борту затрудняют применение универсальных моделей для наведения дронов в реальном времени. Более близким риском исследователи считают массовую обработку видеозаписей с поля боя для создания обучающих данных автономных систем наведения. При этом испытания проводились на коммерческих моделях, а не на специальных версиях, которые компании могут предоставлять военным структурам.