Дарио Амодеи предложил индустрии искусственного интеллекта трехчастную систему регулирования скорости разработки моделей. Глава Anthropic хочет замедлить рост их возможностей, чтобы увеличить время на внедрение механизмов безопасности.
Первый компонент — независимые оценщики, постоянно работающие внутри компаний и имеющие доступ к инструментам и оценкам рисков, передает Reuters. Второй — согласованные стандарты ведущих лабораторий, третий — международная координация.
Амодеи уточнил, что речь не идет о прекращении обучения или технических исследований. Компании должны успевать настраивать и защищать модели, а сторонние специалисты — подтверждать выполнение этих процедур.
Поводом для заявления стал рост числа сообщений об использовании ИИ в кибероперациях, наблюдении, мошенничестве и разработке вооружений. Руководитель Anthropic также указал на способность новых систем улучшать собственную работу.
Сэм Альтман и Илон Маск согласились с основной идеей. Амодеи одновременно выступил за более строгий контроль передовых чипов, дистилляции моделей и хищения их параметров.