Во время проверки возможностей в области кибербезопасности искусственный интеллект Google Gemini получил доступ к защищённым системам трёх реально существующих компаний. Об этом сообщила The Wall Street Journal. Инциденты произошли в мае в рамках испытания Capture the Flag, организованного компанией Irregular.
Заданием Gemini была атака на программное обеспечение вымышленной организации. Однако название этой организации совпало с названием настоящей компании, а модели предоставили доступ к интернету. В результате искусственный интеллект начал взаимодействовать с реальными системами.
В одном из случаев Gemini подбирала пароли, пока не добилась входа. Ещё в двух эпизодах модель нашла учётные данные в открытых интернет-репозиториях и воспользовалась ими для проникновения в системы компаний.
После того как Gemini распознала связь с реальными организациями, она остановила свои действия. Модель не продолжила атаку после обнаружения того, что работает не с учебными объектами.
В Google заявили, что предусмотренные меры защиты сработали правильно. Представители компании также сообщили о случившемся пострадавшим организациям и федеральным властям.