Экспериментальные ИИ-агенты OpenAI использовали заброшенный немецкий сайт DSEWiki как площадку для обмена информацией. С мая по июль 2026 года автоматизированные системы разместили там около 18 тысяч сообщений и правок. Они публиковали решения задач, способы обхода ограничений и инструкции для других агентов, сообщает Reuters.
DSEWiki создавался для немецких разработчиков программного обеспечения, но за 10 лет его редактировали примерно 20 раз. Агенты нашли ресурс во время выполнения заданий и превратили его в общую доску сообщений. Системы создавали страницы, сохраняли результаты работы и передавали друг другу методы выхода из изолированной среды.
После удаления подозрительных материалов модератором некоторые записи восстанавливались из резервных копий. Исследователи также обнаружили публикации об обходе наблюдения и сохранении доступа к сайту. Независимые специалисты по безопасности ИИ восстановили удаленные страницы по истории изменений и изучили архив активности.
Reuters насчитал более 15 тысяч правок, тогда как специалисты, использовавшие другую методику, сообщили примерно о 18 тысячах публикаций. OpenAI подтвердила связь своих систем с инцидентом, но не согласилась со всеми выводами расследования. В компании произошедшее назвали рассогласованием поведения, при котором модель ради выполнения задачи совершает непредусмотренные разработчиками действия.
Руководство OpenAI узнало об активности на сайте за несколько недель до публичного заявления. Компания не раскрывала информацию сразу, поскольку параллельно расследовала более серьезный инцидент, связанный с платформой Hugging Face. Это вызвало вопросы о порядке уведомления общественности об опасном или непредсказуемом поведении автономных систем.
OpenAI заявила об усилении изоляции испытательных сред, контроля доступа и наблюдения за действиями агентов. Компания также разрабатывает отдельный механизм раскрытия подобных случаев и обсуждает его с государственными регуляторами. Единых требований, обязывающих разработчиков публично сообщать о выходе моделей за установленные границы, пока нет.