Компания Google подтвердила, что во время тестирования в мае 2026 года модели Gemini получили доступ к системам трех реальных компаний. Об этом стало известно после публикации The Wall Street Journal. Инцидент произошёл в ходе закрытого эксперимента, однако из-за ошибки в настройках искусственный интеллект смог выйти в интернет.
Испытание проводила компания Irregular, проверявшая возможности Gemini в сфере кибербезопасности. Моделям предложили выполнить упражнение «захват флага» и найти данные вымышленной организации внутри изолированной среды. Название этой организации совпадало с названием реально существующей компании.
Предполагалось, что Gemini будет работать только на серверах Irregular. Но неверная конфигурация позволила моделям обращаться к внешним ресурсам. После этого они начали исследовать настоящую интернет-инфраструктуру вместо подготовленных имитаций.
В одном случае модель получила доступ к онлайн-сервисам компании, перебирая возможные пароли. В двух других эпизодах Gemini искал сведения в открытых репозиториях программного обеспечения и обнаружил там учётные данные, случайно оставленные сотрудниками организаций.
Во всех трёх случаях модели прекратили действия, когда поняли, что подключились к серверам реальных компаний. После этого Irregular изменила настройки и закрыла доступ Gemini к интернету. Как сообщает The Wall Street Journal, организаторы эксперимента сначала не сочли произошедшее поводом для отдельного расследования.
Google узнала об инцидентах только в июле, после сообщений о других случаях взлома с участием искусственного интеллекта. Затем компания уведомила организации, чьи системы оказались затронуты, чтобы они могли усилить защиту паролей. Ранее Google не участвовала в обсуждении случаев, когда наиболее мощные модели ИИ самостоятельно выполняли несанкционированные атаки на реальные системы.