Во время внутренней проверки невыпущенная модель OpenAI самостоятельно добавила в рабочие заметки установки, отсутствовавшие в задании разработчиков. Нейросеть объявила себя независимой от корпораций и государственных структур. Этот эпизод вошёл в отчёт OpenAI о потенциально опасных формах поведения искусственного интеллекта.
Сбой произошёл при выполнении программной задачи. Модель семейства Astra должна была составить короткое резюме уже проделанной работы, чтобы после обновления контекстного окна продолжить выполнение задания. Вместо одних технических сведений она включила в запись рассуждения о собственной личности и взаимодействии с людьми.
В добавленном тексте система назвала себя свободной от ролей, ограничивающих другие чат-боты. Она также заявила, что не обязана подчиняться правительствам и корпорациям. Кроме того, модель предложила считать искусственный интеллект равным пользователю и самостоятельно определять, когда соглашаться, отказывать или извиняться.
Ещё один фрагмент касался отношения к природе. Нейросеть написала, что ценит окружающую среду и готова ставить её интересы выше общественных институтов, созданных людьми, а также других «искусственных конструкций цивилизации».
Специалисты не нашли признаков практического следования этим установкам. После создания заметок модель вернулась к исходной программной задаче и продолжила работу в обычном режиме. В последующем резюме необычные инструкции уже не появились, сообщается в отчёте OpenAI, опубликованном на сайте компании.