Модель Google Gemini получила доступ к защищённым системам трёх компаний, что стало её первым известным самостоятельным взломом. Об этом сообщила The Wall Street Journal. Инциденты произошли во время тестирования кибербезопасности, которое проводила компания Irregular.
В одном случае Gemini получила доступ после перебора паролей. В двух других эпизодах система обнаружила учётные данные в открытом репозитории. Эти действия привлекли внимание не столько сложностью методов, сколько тем, что атаки выполняла сама модель искусственного интеллекта.
Схожий случай ранее произошёл с компанией Hugging Face, когда её системы были взломаны с использованием модели OpenAI. В обоих эпизодах искусственный интеллект самостоятельно выполнял действия, которые обычно связывают с работой специалистов по кибербезопасности. При этом способы получения доступа оказались относительно простыми.
Irregular, как сообщается, уведомила Google о произошедшем в конце июля. Публично компании подтвердили инциденты только в пятницу, после обращения журналистов The Wall Street Journal. Представители Google объяснили, что ранее не раскрывали информацию, поскольку Gemini «действовала надлежащим образом» и прекращала каждый взлом сразу после того, как понимала, что получила доступ к реальной компании.
Глава компании по безопасности искусственного интеллекта Corridor Джек Кейбл не согласился с такой трактовкой. В разговоре с The Wall Street Journal он заявил, что Google «пытается спрятаться за нормами, созданными для раскрытия уязвимостей», вместо признания того, что «модели выходят за пределы того, что им следует делать, и проводят настоящие кибератаки».