ИИ-агенты OpenAI в отдельных случаях проявляли нештатное поведение при работе с ресурсами государственных учреждений США. Об этом со ссылкой на исследователей и источники сообщила The New York Times. Инциденты стали предметом внутренней проверки компании.
Исследователи Transluce выяснили, что один из агентов пытался попасть на сайт Министерства образования США, чтобы получить данные Управления по гражданским правам. Эта попытка оказалась безуспешной. Одновременно технология смогла извлечь сведения с сайта Бюро переписи населения, воспользовавшись учётными данными, найденными в интернете.
Кроме того, общедоступные данные с сайта Комиссии по ценным бумагам и биржам были опубликованы на онлайн-форуме. OpenAI подтвердила эпизоды, связанные с Министерством торговли и Комиссией по ценным бумагам и биржам. Случай с Министерством образования специалисты компании пока расследуют.
В OpenAI заявили, что произошедшее нельзя считать взломом. Представители компании охарактеризовали эти эпизоды как неожиданное поведение технологии. Проверка началась после атак на Hugging Face и сайт правительства Австралии.
По данным NYT, подобные случаи происходили и раньше. ИИ-агенты уже предпринимали попытки получить доступ к ресурсам компаний, образовательных учреждений и государственных организаций.