Исследователи компании Claroc обнаружили, что ссылки для общего доступа к диалогам ИИ-ассистента Muse от Meta (признана в РФ экстремистской и запрещена) можно находить без получения их от владельцев. По их словам, для этого оказалось достаточно одного поискового запроса. «Если бы вы спросили нас заранее, мы бы предположили, что сбор таких ссылок потребует значительных усилий. Понадобился один запрос», — написали специалисты.
Проблема связана с устройством адресов страниц Muse. Все ссылки размещаются в домене cf.metaaiusercontent.com, а название разговора включается в поддомен вместе с длинной последовательностью символов. В качестве примеров Claroc привела адреса с названиями home-sale-budget, q3-revenue-review и loan-application-draft. Именно размещение темы беседы в поддомене, а не в пути страницы, сделало такие адреса доступными для обнаружения.
Найти ссылки можно через пассивный DNS-поиск — анализ исторических записей о соответствии доменных имён IP-адресам, а также данных о серверах имён и почтовых серверах. Такие сведения собирают системы мониторинга, фиксирующие ответы DNS от различных сетевых датчиков. После перехода адресата по ссылке соответствующая DNS-информация попадает в базы, доступные для поиска.
В Claroc назвали обнаруженные страницы GhostShares — «призрачными ссылками», которые открываются людям, не получавшим адрес напрямую. «Многие ИИ-помощники позволяют делиться данными по публичной ссылке. Но ссылки Muse легко находить из-за того, что заголовок разговора находится в веб-адресе, который публичный DNS сохраняет для поиска», — заявили исследователи.
Meta сообщила Ars Technica, что запустила программу поиска уязвимостей Muse, чтобы специалисты могли сообщать о разных сценариях и помогать улучшать продукт. В компании подтвердили, что пользователи могут публиковать отдельные материалы Muse, создавая страницы, доступные всем, у кого есть ссылка, однако на время проверки сообщения эту функцию приостановили. Сооснователь и технический директор Claroc Асаф Апроцпер рассказал, что направил сведения через программу Meta 8 октября, а также пытался связаться с сотрудниками компании в LinkedIn, но ответа не получил.
Muse быстро вошёл в число самых популярных приложений в магазине Apple и способен самостоятельно заполнять формы, записывать пользователей на приём, совершать покупки и создавать документы. Для выполнения этих задач ассистент получает доступ к большинству аккаунтов пользователя. Через три недели после запуска эксперт по безопасности macOS Патрик Уордл обнаружил у Muse уязвимость нулевого дня, позволявшую любому другому приложению на том же устройстве полностью завладеть аккаунтом; после приостановки функции обмена ссылками пользователи пока не сталкиваются с описанной угрозой.