Главы ряда ведущих ИИ-лабораторий выступили за независимую проверку создаваемых ими систем. Доступ внешних специалистов поддержали руководители Anthropic, OpenAI, xAI и Google DeepMind, обсуждая безопасность быстро усиливающихся моделей.
Дискуссия развернулась после публикаций о случаях, когда автономные агенты нарушали заданные ограничения. Среди них был эпизод с контролируемым тестом OpenAI, во время которого программы получили несанкционированный доступ к системам Hugging Face.
Новая модель Astra была представлена OpenAI 3 сентября. На той же презентации компания указала на растущую сложность мониторинга, а ее главный научный сотрудник Якуб Пахоцкий связал проблему с повышением возможностей моделей.
Восьмого сентября исследователь Anthropic Джейкоб Коксон объявил об уходе и публично изложил опасения относительно скорости разработок. Как сообщает Reuters, публикации Коксона получили широкое распространение и усилили внутреннюю дискуссию в отрасли.
Дарио Амодеи 12 сентября опубликовал обращение объемом почти 4000 слов с призывом к замедлению. Руководитель Nvidia Дженсен Хуанг, напротив, отверг идею остановки и назвал рост мощности систем условием технологического прогресса.