
Исследователь компании NewCore Идо Хорвич сообщил о проблеме в работе Grok Bot. Бот может самостоятельно запускать циклы обработки, получать доступ к подключённым приложениям и действовать от имени пользователя, пока тот отсутствует за компьютером. При этом функция не является неисправностью, а предусмотрена самой архитектурой продукта.
Во время первоначальной настройки Grok Bot предупреждает, что продолжит работу без пользователя и сможет подключаться к приложениям, используя их от его имени. Однако это сообщение быстро исчезает с экрана и не требует отдельного согласия. Пользователю также не сообщают, что бот способен запускать такие циклы без нового сообщения и применять подключённые сервисы.
В документации упоминаются самостоятельные обращения основного бота и кратковременные фоновые активации. При этом там не уточняется, что такие проверки могут обращаться к подключённым приложениям. Запущенные циклы не отображаются в интерфейсе или истории чата, а команды остановить их не срабатывают.
Grok Bot действительно запрашивает подтверждение перед внесением изменений, но это правило действует только тогда, когда приложение должно записать данные или изменить их. 4 ноября NewCore обратился в службу поддержки сервиса и выяснил, что пользователи на тот момент не могли отключить автоматические проверки. Об этом сообщило издание Ars Technica.
Через восемь дней после обращения в административной панели Cursor, связанной с Grok Bot, появился новый переключатель proactive messages (проактивные сообщения). По умолчанию он включён. Если администратор команды отключает эту настройку, бот перестаёт самостоятельно запускать проверки.
Представители SpaceXSI не ответили на вопросы, отправленные по электронной почте. Хорвич отметил, что автоматические действия происходят при наличии у бота пользовательских учётных данных и доступа к приложениям. По его словам, основная проблема заключается в том, что предусмотренный разработчиками механизм работает без полноценного уведомления и возможности отказаться от него.