Исследование Anthropic показало, что небольшие модели искусственного интеллекта потенциально могут стать основой самораспространяющихся вредоносных программ для устройств интернета вещей. Такие программы напоминали бы традиционных сетевых червей, включая Mirai, который устанавливает код для DDoS-атак и другие полезные нагрузки. Однако ИИ-черви представляли бы более серьёзную угрозу, поскольку могли бы подбирать эксплойты и содержимое атаки под конкретное устройство, а начавшуюся цепочку заражений было бы сложнее остановить.
В Anthropic назвали подобные программы автономными репликаторами на основе весов небольшой модели. Модель могла бы переносить свои веса вместе с копиями вредоносной программы или повторно загружать их из общедоступного хранилища, а затем выполнять вычисления непосредственно на скомпрометированном оборудовании. «Фактически веса стали бы частью полезной нагрузки вредоносной программы», — заявили в компании.
Предложенная схема включает поиск целей, получение возможности выполнять код, настройку среды для работы модели и распространение на новые устройства. Для атак используются агенты с доступом к распространённым инструментам эксплуатации, например обратным оболочкам. При этом каждый репликатор способен сохранять промпты, программный код и заметки о неудачных попытках взлома конкретной платформы, чтобы следующие копии не повторяли неэффективные действия.
Наиболее сложным этапом Anthropic считает динамическую настройку вычислений под характеристики очередного устройства. Она требует последовательно выбрать совместимое программное обеспечение, установить зависимости и устранить ошибки, связанные с конкретной платформой. «Эти шаги зависят друг от друга, а после сбоев восстановление затруднено», — отметили в компании.
Проведённый эксперимент показал, что небольшие модели всё лучше справляются с такими задачами самостоятельно. Однако ни одна из протестированных облегчённых моделей пока не смогла полностью пройти весь цикл: обнаружить новые устройства, воспользоваться уязвимостью, установить полезную нагрузку, настроить сервер для выполнения модели и повторить заражение.
Дополнительным ограничением остаётся низкая скорость работы. Модель Gemma4-26B-A4B, распределённая между 15 приставками Android TV, обрабатывала 0,39 токена в секунду; полная настройка вычислений занимала от 71 до 150 часов в неоптимизированном варианте и от 29 до 51 часа для Qwen3.5-9B. По оценке исследователей, крупная модель GLM-5.2, вероятно, уже способна надёжно выполнять такой процесс.