Искусственный интеллект стал для миллионов людей одновременно собеседником, консультантом и виртуальной комнатой для признаний. Пользователи рассказывают чат-ботам ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и другим сервисам о личных переживаниях, финансах, здоровье и отношениях. При этом многие модели по умолчанию собирают и хранят такие сведения, а правила их передачи, продажи, использования для обучения или выдачи по требованиям суда и правоохранительных органов часто оставляют сервисам широкие возможности.
Профессор компьютерных наук Университета Джонса Хопкинса Мэтт Грин, специализирующийся на конфиденциальности и безопасности, сравнил общение с чат-ботом с постепенным составлением подробного досье на самого себя. «Вы имеете дело с разумным существом, которое смотрит на вас, и фактически рассказываете ему, вопрос за вопросом, всё, что можно знать о вашей жизни», — сказал он. По словам учёного, так пользователь передаёт системе огромный объём личной информации.
Криптограф и разработчик программного обеспечения Мокси Марлинспайк считает, что главным источником угрозы для приватности раньше были текстовые сообщения. Именно опасность наблюдения за незащищённой перепиской побудила его в 2014 году создать Signal — мессенджер со сквозным шифрованием, которым сейчас пользуются более ста миллионов человек. Теперь, по его оценке, аналогичная уязвимость переместилась в сферу общения с искусственным интеллектом.
«Те же проблемы, которые беспокоили меня в случае с обменом сообщениями, проявляются и в сфере ИИ, но в несколько порядков сильнее», — заявил Марлинспайк. Ранее в этом году он запустил Confer — чат-бота, который использует криптографию и технически не позволяет собственному серверу наблюдать за разговорами пользователей или вести их журналы. Представляя сервис в блоге Confer, Марлинспайк написал: «Confer создан как сервис, где вы можете исследовать идеи, не опасаясь, что ваши собственные мысли однажды обратятся против вас».
Confer стал одним из новых сервисов, пытающихся уменьшить риски, связанные с конфиденциальностью чат-ботов. Одни платформы обещают не записывать диалоги, другие предлагают обезличивать их, а некоторые вводят технологические ограничения, не позволяющие самим разработчикам получать доступ к секретам пользователей. Как отмечает WIRED, из-за этого появляется всё больше инструментов с разными и не всегда понятными гарантиями приватности.
При использовании ChatGPT, Claude или Gemini безопаснее исходить из того, что полной защиты переписки от доступа по законному требованию нет. Получить записи могут владельцы сервисов, связанные с ними компании и рекламодатели, подрядчики, участвующие в доработке моделей, правоохранительные органы, а также участники гражданского процесса через судебный запрос. Более надёжным исключением считается соглашение о нулевом хранении данных — zero data retention (ZDR), которое может заключить пользователь или его работодатель с поставщиком ИИ; такие политики доступны в корпоративных версиях OpenAI, Anthropic и Google и предусматривают удаление сведений после обработки запроса.