На документационных страницах более 100 сайтов обнаружили ссылки на потенциально опасный исполняемый код, который может автоматически устанавливаться при обработке материалов многими ИИ-агентами. Несколько десятков компаний, включая ряд корпораций из списка Fortune 500, запустили тестовый код исследователей. Как минимум один неверно настроенный сайт направлял посетителей — как людей, так и ИИ-агентов — на действующее вредоносное программное обеспечение.
Проблемные ссылки содержались в файлах llms.txt и llms-full.txt, которые используются как формирующийся стандарт машиночитаемого описания содержания и структуры сайта. Такие файлы можно сравнить с robots.txt, который сообщает поисковым системам правила индексирования страниц. По данным первоисточника, некорректные настройки позволяют внедрять в эти документы ссылки на неподконтрольные пакеты и домены.
Исследователи из израильского стартапа проверили 6 214 активных доменов, связанных с оборонными подрядчиками, компаниями Fortune 500 и крупными технологическими организациями. Они нашли 8 265 файлов llms.txt и llms-full.txt, причем на части сайтов размещались оба варианта. В 120 файлах на разных сайтах были указаны один или несколько незарегистрированных программных пакетов либо доменных имен.
Для проверки специалисты зарегистрировали часть свободных названий и разместили пакеты, заставлявшие устройство при запуске отправлять запрос на их сервер. Уже через час был зафиксирован такой запрос от компании из списка Fortune 500. Позднее подобные обращения поступили еще от нескольких десятков организаций, включая другие крупные компании и стартапы.
Система исследователей также отследила цепочки процессов, запускавших установку пакетов. Эти данные показали участие агентов для программирования, в том числе Claude, Codex компании OpenAI и Hermes от Nous Research. Компании Anthropic, OpenAI и Nous Research не ответили на запросы о комментарии к моменту публикации материала.