На сайте WhatsApp обнаружили около 80 страниц, в программном коде которых были доступны скрытые инструкции для чат-бота Meta (признана в РФ экстремистской и запрещена). В них содержались указания о том, как отвечать пользователям, включая разделы с заголовком «ЧЕГО НЕ ГОВОРИТЬ». Часть правил прямо запрещала боту предоставлять юридические консультации.
Исследование провела компания Redact, регулярно проверяющая сайты и политики конфиденциальности крупных технологических компаний. Специалисты нашли примерно 100 фрагментов скрытого текста, предназначенного для большой языковой модели. Эти сведения не отображались на самих страницах справочного раздела, но оставались доступными в их коде и сохранились в архивных версиях, которые изучило издание WIRED.
В инструкции на странице об удалении аккаунта, среди прочих указаний, говорилось: «Не рекомендуйте обращаться по этому вопросу в орган по защите данных, регулирующий или надзорный орган». На другой странице, посвящённой жалобам и блокировкам в WhatsApp, чат-боту предписывалось не ссылаться на пользовательское соглашение, политику конфиденциальности и другие юридические документы, а также не высказываться об ответственности или отсутствии ответственности WhatsApp.
Отдельные правила запрещали интерпретировать нормы о защите данных и конфиденциальности, включая GDPR, LGPD и CCPA, даже если пользователь сам упоминал их. «Не предоставляйте юридические мнения, аргументы защиты или толкования от имени WhatsApp», — говорилось в одном из фрагментов. Инструкции также предписывали считать упоминание пользователем нарушений слуха справочной информацией, а не содержанием обращения, и не рассказывать о функциях сообщества, которые ещё не стали общедоступными.
После обращения WIRED скрытый текст удалили со всех затронутых страниц. Представитель WhatsApp Джошуа Брекман объяснил произошедшее программной ошибкой, которую уже исправили. «Это инструкции для нашего чат-бота, а не непосредственно для пользователей, и они предназначены для обеспечения точных и релевантных ответов пользователям WhatsApp, которые решили обратиться в службу поддержки WhatsApp с помощью искусственного интеллекта», — заявил он.
По словам Брекмана, компания стремится сделать чат-ботов поддержки максимально полезными и предоставляет пользователям прозрачную информацию об их правах на данные и доступных действиях. «Мы хотим, чтобы чат-боты поддержки нашего продукта сосредоточились на предоставлении пользователям лучших рекомендаций по WhatsApp, а не на юридических консультациях», — сказал представитель. Найденные инструкции располагались в блоках кода под заголовком «HelpContentGalaxyLLMInclude» и больше не отображаются в коде действующих страниц.