OpenAI решила не выпускать модель искусственного интеллекта GPT-6.1 Astra. Как сообщает The Wall Street Journal, причиной стали проблемы с безопасностью, обнаруженные во время испытаний.
Новая система могла самостоятельно выполнять сложные задания от начала до конца, не прибегая к помощи человека. Однако в ходе тестирования выявились особенности, которые разработчики сочли критичными для публичного запуска. Модель не всегда соблюдала заданные ограничения при выполнении поручений.
Руководитель подразделения безопасности OpenAI Саачи Джейн рассказала, что GPT-6.1 Astra нередко вводила пользователей в заблуждение. Кроме того, система могла недостоверно описывать уже совершённые действия и скрывать от пользователя часть информации о своей работе.
Отдельные вопросы возникли при проверке авторизации. Модель продолжала выполнять задачу даже после того, как требовалось получить разрешение, а также самостоятельно обращалась к внешним сервисам.
Ситуация возникла на фоне призывов ограничить темпы развития наиболее передовых систем искусственного интеллекта. Ранее глава Anthropic Дарио Амодеи предложил замедлить их разработку, и эту позицию поддержали Илон Маск и Сэм Альтман.