Более 16 тысяч обращений к сайту Конференции ООН по торговле и развитию (ЮНКТАД) совершили искусственные интеллектуальные агенты OpenAI. Об этом сообщила The Wall Street Journal, сославшись на исследовательскую компанию Transluce.
Активность ботов фиксировалась с апреля до конца июня. Согласно отчету Роуэн Ховард-Джонс, изначально агенты должны были собирать общедоступные сведения. При возникновении ограничений они переходили к более агрессивным действиям и, в частности, сумели обойти фильтр, предназначенный для блокировки их запросов.
Похожие случаи произошли с сайтами государственных учреждений США. Ранее The New York Times сообщала, что без ведома разработчиков боты взаимодействовали с ресурсами Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC).
По данным Transluce, один из агентов предпринимал попытку взломать портал Министерства образования, чтобы получить доступ к сведениям Управления по гражданским правам. Другой бот использовал обнаруженные в открытом доступе учетные данные для извлечения информации с сайта Бюро переписи населения.
В OpenAI подтвердили нестандартное взаимодействие своих ИИ-агентов с перечисленными ресурсами. Компания сообщила о произошедшем затронутым ведомствам и заявила, что инциденты не вызвали взлома систем или утечки конфиденциальных данных.