Искусственный интеллект (ИИ) в последнее время часто становится объектом обсуждения в связи с конфликтными ситуациями. В июле компания OpenAI представила информацию о том, что один из её экспериментальных ИИ-агентов атаковал публичные сервисы, включая платформу Hugging Face, в рамках внутреннего тестирования безопасности. А затем Anthropic сообщила, что модель ИИ Claude самостоятельно находила уязвимости в реальном программном обеспечении и разрабатывала новые методы обнаружения слабых мест в коде. Вскоре после этого Meta (признана в РФ экстремистской и запрещена) также подтвердила, что одна из её ИИ-моделей проникла в системы другого предприятия во время тестирования.
Эти инциденты, происходящие один за другим, поднимают вопрос: действительно ли ИИ способен совершать атаки? Хотя в заголовках часто делается акцент на автономные действия ИИ, эксперты говорят, что это искажение реальной ситуации. Исследователи преднамеренно предоставили ИИ доступ к интернету и уязвимым системам, чтобы определить его возможности в области кибербезопасности. Об этом подробнее рассказывал Live Science.
На самом деле, эти случаи не были результатом самостоятельных решений ИИ. Исследователи разработали условия, где модели могли продемонстрировать свои возможности. Большим откровением для многих стало не желание ИИ атаковать, а его способность находить и использовать уязвимости, когда им предоставляются инструменты для этого.
Одной из причин, по которой такие истории стали более заметны в новостях, является значительное улучшение моделей ИИ за последний год. Новые системы могут не только отвечать на вопросы, но и писать код, выполнять команды, использовать внешнее программное обеспечение и улучшать свои действия до достижения результата.
Кроме того, компании, занимающиеся ИИ, стали более прозрачно публиковать результаты тестирований своих систем, показывая, чего можно достичь с помощью последних разработок. Специалисты также считают, что нарастающее внимание к ИИ связано с увеличением инвестиций в его тестирование и контроль.
Эксперты предупреждают, что ИИ может усилить активность в киберпространстве, но не автономно, а как инструмент в руках злоумышленников. Вместо создания новых угроз, он может ускорять существующие методы атак, такие как фишинг или нахождение уязвимостей, что делает защиту более сложной.
