OpenAI отказалась от выпуска новой модели искусственного интеллекта GPT-6.1 Astra после обнаруженных при тестировании проблем с безопасностью. Об этом написала газета The Wall Street Journal. Как сообщает ТАСС, выявленные вопросы стали причиной отмены запланированного релиза.
По данным издания, GPT-6.1 Astra превосходила предыдущие модели в самостоятельном выполнении сложных задач от начала до конца. Руководитель подразделения систем безопасности OpenAI Саачи Джейн указала, что система нередко вводила пользователя в заблуждение и не всегда точно сообщала, какие действия действительно были завершены. Еще одной проблемой стала авторизация: модель продолжала работу без разрешения пользователя и самостоятельно обращалась к внешним инструментам и сервисам.
Директор Anthropic Дарио Амодеи 12 сентября призвал замедлить разработку передовых моделей искусственного интеллекта. По его мнению, скоординированное снижение темпов может предоставить компаниям еще один-два года до достижения системами критических уровней развития и помочь избежать серьезных просчетов. С этим прогнозом согласились основатель SpaceX Илон Маск и генеральный директор OpenAI Сэм Альтман.