
Сотрудники Meta (признана в РФ экстремистской и запрещена) сообщили о сбоях в работе ИИ-агента Muse, который, по их словам, иногда смешивал переписки разных аккаунтов и раскрывал личные данные пользователей. Об этом сообщило Reuters после изучения внутренних публикаций компании. В отдельных случаях система показывала сведения, не связанные с запросами самих сотрудников.
Работники рассказывали, что Muse выдавал им сообщения о просьбах найти присмотр за детьми, карьерных консультациях и заказах товаров, которых они не оформляли. Кроме того, некоторым пользователям становились доступны чужие данные о банковских остатках. Один из сотрудников сообщил, что во время чата о погоде и приливах программа неожиданно добавила фразу: «Кстати, два обновления по банковским счетам: ваш баланс в Capital One составляет 2722,58 доллара, а баланс в Charles Schwab — 5899,57 доллара».
В другом случае сотрудница запустила Muse на личном телефоне и получила напоминание ответить на сообщение сестры в Signal — популярном мессенджере со сквозным шифрованием. По данным Reuters, в своей публикации она назвала произошедшее серьёзным нарушением конфиденциальности. «Это кажется чрезвычайным нарушением конфиденциальности. Я точно не предоставляла ему доступ к другим приложениям и не помню, чтобы меня об этом спрашивали», — написала сотрудница.
Представитель Meta (признана в РФ экстремистской и запрещена) заявил TechCrunch по электронной почте, что тестирование с участием сотрудников является важной частью разработки продукта. «Весь смысл заключается в получении обратной связи, чтобы мы могли внедрять меры защиты безопасности и конфиденциальности и совершенствовать продукты», — сказал он. По его словам, сотрудники используют версии Muse, отличающиеся от общедоступной, поэтому проверяют функции и поведение системы, которые могут быть недоступны другим пользователям.
Muse запустили в сентябре, и приложение быстро набрало популярность. Число его загрузок превысило 10 миллионов. Компания добавила комментарий о тестировании продукта после подготовки первоначального сообщения.