
Проверка, проведённая Reuters совместно с сотрудниками Signal и института AI Now, показала, что искусственный интеллект Muse компании Meta (признана в РФ экстремистской и запрещена) может получать доступ к сообщениям в Signal. На устройствах Android система обходила инструмент Meta под названием Connector. Вместо этого она использовала разрешения, выданные во время первоначальной настройки.
На iPhone подобные запросы были заблокированы. При этом в операционной системе macOS Muse применяла функции, которые Apple создала для помощи людям с инвалидностью при управлении компьютером. В частности, для получения сообщений могли использоваться инструменты создания снимков экрана.
Проведённый эксперимент показал, что проблема, о которой ранее сообщали сотрудники Meta (признана в РФ экстремистской и запрещена), сохраняется и может затрагивать других пользователей. Reuters пришло к выводу, что система широко трактует разрешения, предоставленные Muse. Такой подход может вызвать несогласие со стороны защитников конфиденциальности и регулирующих органов.
Президент Signal Мередит Уиттакер заявила Reuters, что Meta (признана в РФ экстремистской и запрещена) запустила Muse «без какого-либо уважения к базовым принципам конфиденциальности и кибербезопасности». Она призвала компанию предоставить разработчикам приложений, включая Signal, «единые технические способы» обозначать свои программы как недоступные для ИИ-агентов. По её словам, операционные системы должны обеспечивать соблюдение таких ограничений и закрывать ИИ доступ к чувствительным данным.
После публикации Reuters Apple и Google начали рассматривать возможные изменения, которые позволят пользователям лучше контролировать разрешения для ИИ-агентов. Apple отдельно выразила обеспокоенность использованием Muse специальных возможностей для людей с инвалидностью. В октябре компания объявила о дополнительных мерах после жалоб на доступ к личным сообщениям без ведома или явного согласия пользователей и заявила: «Мы стремимся сделать так, чтобы пользователи точно понимали, что именно они разрешают, и могли принимать осознанные решения о своих данных и конфиденциальности».