Исследовательская компания White Circle заявила, что разработанный ею метод позволяет обходить защиту передовых моделей искусственного интеллекта без применения специально созданных или наиболее сложных моделей. По словам организации, для таких атак не требуется опыт в области ИИ. Проверка результатов показала самый высокий показатель обхода среди всех методов, испытанных по тому же стандарту.
White Circle считает, что полученные данные указывают на слабость защитных механизмов, созданных ведущими лабораториями. «В то время, когда безопасность ИИ подвергается беспрецедентному вниманию, средства защиты, созданные ведущими лабораториями, намного слабее, чем они признают», — заявила компания.
Организация намерена опубликовать весь набор инструментов для атак с открытым исходным кодом. Это должно помочь разработчикам моделей точнее оценить масштаб уязвимости и усилить защиту. Результаты также представят на конференции NeurIPS 2026 в ноябре, что может усилить внимание к Google и OpenAI этой осенью.
White Circle уже передала сведения некоторым разработчикам передовых моделей через «взаимные контакты», рассказал Ars руководитель компании Шилов. Google и OpenAI не ответили на запрос издания о выявленных уязвимостях. При этом обе компании выпустили новые модели — ChatGPT Images 2.5 и Nano Banana 2.1.
Тестирование безопасности запросов тем же способом показало, что обе новые модели «значительно легче взломать», чем их предшественников, сообщила White Circle Ars. После передачи этих результатов компании также не предоставили комментариев.
Метод White Circle способен обходить защиту даже в категориях, например связанных с откровенным контентом, которые обычно считаются простыми для обнаружения. Шилов отметил, что это вызывает опасения относительно более сложных систем, предназначенных для блокировки других нежелательных действий ИИ, включая взлом. «Рабочая гипотеза White Circle заключается в том, что новые модели либо стали более сложными и способными создавать более широкий спектр контента, либо безопасность отошла на второй план ради расширения возможностей», — заявила компания Ars.