Глава Anthropic Дарио Амодеи призвал замедлить темпы развития передовых систем искусственного интеллекта. В публикации на своем сайте он заявил, что ускорение прогресса и способность ИИ создавать следующие поколения моделей требуют более осторожного подхода. «Мы должны замедлить темп, с которым улучшаются возможности моделей ИИ», — написал руководитель компании.
Амодеи предложил три направления для снижения рисков. Первое предусматривает постоянное присутствие независимых специалистов из сторонних организаций, включая METR, внутри компаний-разработчиков ИИ. Такие эксперты должны проверять выполнение обязательств по безопасности и контролировать раскрытие информации об инцидентах.
По словам главы Anthropic, независимым оценщикам следует предоставить рабочие места, корпоративные удостоверения и компьютеры, а также доступ к данным, сопоставимый с возможностями внутренних команд по оценке рисков. Anthropic, как заявил Амодеи, готова в одностороннем порядке внедрить такую практику и призывает правительства обязать к этому другие компании.
Второй мерой он назвал координацию ведущих разработчиков ИИ в демократических странах. Компании должны согласовать общие стандарты безопасности и ограничения на темпы неконтролируемого развития технологий. Амодеи считает, что посредником в таких переговорах может выступить правительство США, в том числе для снятия антимонопольных рисков.
Третье направление предполагает международное взаимодействие США и их союзников с авторитарными государствами, включая Китай. Амодеи признал ограниченность такого сотрудничества, но допустил договоренности о запрете отдельных особо опасных способов применения ИИ, например для создания биологического оружия. Он также заявил, что экспортные ограничения на передовые чипы и оборудование, а также борьба с дистилляцией моделей могут позволить США заметно увеличить отрыв от Китая в ближайшие три-пять лет.
Амодеи отметил, что по-прежнему считает искусственный интеллект способным значительно повысить качество жизни людей. При этом, по его словам, добиться таких преимуществ можно только при ответственном создании технологий и разумном использовании времени, которое даст замедление их развития.