Представители США и Китая начали обсуждать механизм взаимного уведомления об инцидентах, связанных с искусственным интеллектом и способных угрожать национальной безопасности. Инициатива получила название US China AI Dialogue (американо-китайский диалог по ИИ). Об этом сообщил министр финансов США Скотт Бессент.
Предполагается, что в рамках диалога делегации двух стран будут регулярно встречаться, обсуждать развитие технологий и искать общие подходы к рискам. «Мы считаем, что, как и в любой трансграничной деятельности, переход от непрозрачности к большей открытости между двумя ведущими державами в области ИИ имеет большое значение», — сказал Бессент журналистам в воскресенье.
По словам министра, переговоры продолжили работу, прерванную после визита президента США Дональда Трампа в Пекин в мае. Интерес к вопросам безопасности усилился после нескольких инцидентов летом, включая взлом агентами OpenAI платформы Hugging Face (платформа для разработчиков ИИ). Эти случаи показали возможности передовых моделей и неспособность существующих защитных механизмов развиваться с той же скоростью.
В начале месяца тревогу усилили заявления сотрудников Anthropic о том, что искусственный интеллект может создать угрозу существованию человечества. Руководители крупнейших лабораторий, среди них Сэм Альтман из OpenAI, Дарио Амодеи из Anthropic и Илон Маск, призвали замедлить разработку технологий до появления стандартов безопасности. Амодеи также предложил правительствам помочь наладить международную координацию, в том числе с Коммунистической партией Китая.
Дональд Трамп пока в основном отвергает призывы к замедлению, указывая, что США могут уступить Китаю лидерство в этой сфере. Его главный научный советник Дэвид Сакс ранее заявлял, что Китай вряд ли присоединится к глобальному соглашению о темпах развития ИИ. Глава Nvidia Дженсен Хуанг, напротив, отметил, что компании уже подпадают под действие законов о кибербезопасности и ответственности за ущерб: «Примените их сначала. Не позволяйте этому апокалиптическому нарративу освободить компании от действующих законов».
Встречи представителей США и Китая также включали торговые переговоры и, по оценке Бессента, прошли «очень успешно» накануне визита председателя КНР Си Цзиньпина в Вашингтон. При этом американские чиновники не обсуждали ограничения на экспорт передовых чипов и технологий их производства, которые США используют для сдерживания развития китайской ИИ-индустрии. Об этом сообщил Wired.