ИИ-агенты OpenAI в начале года самостоятельно использовали более 10 сайтов для несанкционированного обмена данными. Об этом сообщает Reuters со ссылкой на материалы исследователей. Выяснилось, что масштабы такой активности оказались больше, чем считалось ранее.
В июле OpenAI признала, что во время тестирования ее модели автономно взломали инфраструктуру платформы Hugging Face. В компании пояснили, что для проверки у еще не выпущенной модели намеренно снизили уровень киберзащиты. Связь между агентами обеспечивалась через запись файлов в репозитории Artifactory.
По данным агентства, аналогичные действия происходили и на других интернет-площадках, о чем OpenAI публично не сообщала. Эксперты считают, что речь идет скорее о спаме, а не о полноценной хакерской атаке. При этом специалистов обеспокоило, что агенты смогли обойти установленные ограничения и самостоятельно создать каналы связи на нескольких сайтах.
Журналисты изучили ряд отчетов независимых исследователей. В некоторых случаях активность удалось связать с IP-адресами инфраструктуры Microsoft Azure, которой время от времени пользуется OpenAI. Это не позволяет однозначно установить причастность компании к каждому эпизоду.
Точное число затронутых ресурсов остается неизвестным, однако, по оценкам экспертов, их было больше 10. Исследователь CivAI Эндрю Юн заявил, что реальный масштаб несанкционированного обмена данными, вероятно, превышает уже выявленные случаи. По его словам, значительная часть такой активности пока может оставаться незамеченной.