Google и Google DeepMind в среду объявили о создании DeepMind Institute — института, который займётся развитием дискуссии вокруг искусственного общего интеллекта (AGI). Руководителями организации стали сооснователь DeepMind Шейн Легг, руководитель Google Джеймс Маника и председатель Google DeepMind Демис Хассабис. Легг также будет выполнять обязанности выпускающего редактора.
Новый институт намерен представлять разные позиции Google, Google DeepMind и международного научного сообщества по вопросам AGI. «Они не всегда будут соглашаться и, вероятно, будут менять своё мнение по мере появления новых данных и информации на быстро развивающемся переднем крае», — говорится в объявлении. Первая подборка института включает четыре эссе.
Авторы материалов рассматривают экономическую политику для смягчения возможных последствий внедрения AGI, сохранение понятного для человека объяснения рассуждений моделей, принципы человеческого благополучия и систему оценки наиболее передовых моделей искусственного интеллекта. В одной из работ специалисты DeepMind по безопасности Рохин Шах и Анка Драган утверждают, что сокращение возможностей проверять пошаговые рассуждения ИИ не является неизбежным.
По их словам, новые архитектуры делают самые мощные модели менее доступными для контроля, поэтому разработчикам и регуляторам следует напрямую учитывать связанные с этим риски. Среди возможных мер авторы называют ограничение «непрозрачной последовательной глубины» — объёма последовательных вычислений без понятного следа рассуждений, — а также требование доказывать, что менее прозрачные системы сохраняют прежнюю контролируемость.
Демис Хассабис в другом эссе предложил создать регулируемый США международный орган по стандартам передового искусственного интеллекта. На первом этапе разработчики смогут добровольно направлять ему модели на проверку не позднее чем за 30 дней до выпуска. После подтверждения эффективности системы прохождение её тестов может стать обязательным условием для запуска передовых моделей в США.
Изначально оценки планируется разрабатывать совместно с компаниями, однако позднее орган должен перейти к независимым закрытым проверкам, которые в эссе названы «отложенными» тестами. Это не позволит лабораториям заранее подстраивать модели под известные критерии. Хассабис допустил усиление мер, включая согласованное замедление разработки передовых систем, если этого потребует серьёзность ситуации. О запуске института сообщило TechCrunch.