В новом исследовании угроз Anthropic описала применение Claude группой, находившейся на севере Йемена. Разработчик модели утверждает, что искусственный интеллект пытались задействовать в проектировании трех видов ракетных систем.
Первый проект строился вокруг управляемой ракеты и телефона в качестве бортового вычислителя. Другой проект был посвящен многоступенчатой баллистической ракете, расчетная дальность которой превышала две тысячи километров.
В третьей программе рассматривалась система в нескольких исполнениях, одно из которых включало гиперзвуковой планирующий аппарат. Согласно публикации Anthropic, модель использовали для подготовки кода управления, навигации и наведения.
Встроенные ограничения остановили многие опасные запросы, но не смогли заблокировать их полностью. Авторы обращений меняли тактику, пытаясь обходить защиту сервиса.
Anthropic не нашла свидетельств появления функционирующего устройства. Компания располагает информацией об испытании управляемой ракеты, однако считает, что этот пуск завершился провалом.