Учёные Натаниэль Ламберт и Том Зик создали некоммерческую организацию Trillium Labs, которая намерена проводить исследования в области искусственного интеллекта открыто. В числе возможных направлений — потенциально опасные технологии, включая рекурсивное самоулучшение моделей и автономных ИИ-агентов. Результаты экспериментов планируется публиковать в подробном виде, чтобы независимые специалисты могли их изучать и воспроизводить.
Основатели Trillium Labs считают, что закрытость ведущих лабораторий снижает возможности научного сообщества проверять идеи и предлагать новые подходы. По словам Ламберта, доступ внешних экспертов к сведениям о создании и настройке моделей может помочь уменьшить связанные с ними риски. Об этом он рассказал журналу WIRED.
«За последние несколько тысячелетий человечество использовало научный метод как инструмент для снижения вреда и построения лучшего будущего. Нынешняя закрытая траектория развития передовых систем искусственного интеллекта возвращает нас назад», — заявил Ламберт.
Наиболее мощные модели, разработанные компаниями OpenAI и Anthropic, доступны главным образом через приложения или программный интерфейс API (инструмент для взаимодействия программ). Такой формат нередко оставляет пользователей без подробной информации о принципах устройства моделей и особенностях их поведения. В результате возможности независимой проверки оказываются ограниченными.
Некоторые компании, особенно в Китае, распространяют достаточно мощные модели для загрузки и запуска на собственном оборудовании. Так, китайская Xiaomi недавно в реальном времени раскрыла сведения о масштабном обучении одной из своих моделей. Параллельно исследователи Стэнфордского университета открыто предварительно обучают модель искусственного интеллекта Marin.
Спор о преимуществах закрытого и открытого подходов усилился из-за роста возможностей передовых моделей. Они способны автоматизировать поиск новых уязвимостей в программном обеспечении, самостоятельно проверять системы и пытаться взламывать их, а серия заметных хакерских атак привлекла к проблеме дополнительное внимание. Сторонники ограниченного доступа предлагают доверить такие инструменты узкому кругу специалистов, тогда как Ламберт и Зик считают, что общее понимание рисков будет безопаснее для всех.