Риски, связанные с развитием искусственного интеллекта, могут стать одной из ключевых тем встречи президента США Дональда Трампа и председателя КНР Си Цзиньпина, намеченной на 24 сентября в Вашингтоне. Накануне представители двух стран договорились создать регулярный межведомственный «Диалог по ИИ». Его участники намерены искать общие подходы к угрозам, которые несут технологии, способные, по предупреждениям ведущих американских разработчиков нейросетей, поставить под угрозу существование человечества.
Вашингтон и Пекин по-разному оценивают технологическое соперничество. США обвиняют Китай в краже интеллектуальной собственности и недобросовестной конкуренции, тогда как китайская сторона считает незаконными американские ограничения на поставки комплектующих и технологий. При этом американские власти видят у двух держав общую задачу — не допустить потери контроля над передовыми ИИ-агентами и их использования злоумышленниками.
Договорённость о новом формате стала результатом нескольких раундов консультаций перед саммитом. В последних переговорах участвовали министр финансов США Скотт Бессент и вице-премьер КНР Хэ Лифэн. «Мы считаем, что, как и в случае с любой трансграничной деятельностью, переход от непрозрачности к большей прозрачности между первой и второй по величие державами мира в сфере ИИ имеет очень важное значение»,— заявил Бессент.
Как сообщает «Коммерсантъ» со ссылкой на The New York Times, американская сторона рассчитывает обсудить с Китаем механизм взаимных уведомлений об инцидентах с ИИ, способных затронуть национальную безопасность. Предыдущая попытка наладить сотрудничество предпринималась при администрации Джо Байдена в 2024 году, однако после первой встречи переговоры прекратились из-за разногласий по повестке и вопросу Тайваня.
С тех пор возможности ИИ заметно расширились. На прошлой неделе генеральный секретарь ООН Антониу Гутерриш отнёс возможный выход ИИ-агентов из-под контроля к трём «экзистенциальным угрозам» для человечества и призвал ведущие державы взаимодействовать в этой сфере. Он сравнил ИИ с ядерным оружием и напомнил: «Во времена холодной войны между США и Советским Союзом было противостояние, но при этом они поддерживали контакты по ядерным рискам».