Исследователи обнаружили, что новый универсальный ИИ-агент Muse компании Meta (признана в РФ экстремистской и запрещена) может раскрывать конфиденциальные сведения при публикации диалогов через веб-ссылки. Пользователю достаточно выполнить один поисковый запрос, чтобы найти большое число таких адресов. Об этом сообщила Ars Technica со ссылкой на специалистов компании Claroc.
Muse позволяет делиться с другими людьми поисковыми запросами, разговорами и изображениями. Обычно сервис формирует уникальный URL, по которому открывается страница с выбранным содержимым. Для защиты от случайного доступа такие адреса, как правило, содержат длинную непредсказуемую последовательность символов.
Однако в случае с Muse ссылки оказались доступными для перебора из-за особенностей их построения. Специалисты Claroc заявили, что нашли 6800 адресов, созданных пользователями для обмена разговорами, а после проверки нескольких сотен обнаружили сведения, которые явно не предназначались для открытой публикации. Среди них были заметки кандидата к конфиденциальному разговору о руководящей должности в передовой лаборатории искусственного интеллекта с именем внутреннего контактного лица и временем встречи, а также внутренний отчёт национальной маркетинговой компании о доходах, адресованный генеральному директору.
Кроме того, исследователи увидели заявку владельца малого бизнеса на кредит с указанием запрошенной суммы. В одном из списков дел содержалось предупреждение банка о мошенничестве, частичный номер счёта, сумма и время операции. Ещё один документ включал внутренний отчёт инвестора в недвижимость с двумя адресами объектов и точными показателями доходности, выручки и ипотеки, а в календаре отпусков сотрудников были перечислены десятки работников и недели их отсутствия.
«Если бы вы спросили нас заранее, мы бы предположили, что сбор таких данных потребует значительных усилий», — написали специалисты Claroc. «На это потребовался один запрос». По их данным, найти адреса можно через пассивный DNS — поиск в коммерческих базах исторических записей о соответствии доменов IP-адресам, а также сведений о серверах имён и почтовых серверах.
Все ссылки Muse используют домен cf.metaaiusercontent.com, что дополнительно облегчает их обнаружение. В адрес также включается название разговора перед длинной последовательностью символов. В качестве примеров Claroc привела варианты home-sale-budget-9f21c8a3.cf.metaaiusercontent.com, q3-revenue-review-7b1e42f0.cf.metaaiusercontent.com и loan-application-draft-a4c9e2.cf.metaaiusercontent.com. Именно публикация названия разговора внутри URL сделала возможным поиск таких ссылок через открытые механизмы.