Спикер Палаты представителей США Майк Джонсон в телевизионных интервью на выходных заявил, что «мы должны установить некоторые ограничения, некоторые меры безопасности, чтобы гарантировать, что ИИ не выйдет из-под контроля». При этом он добавил, что «не нужно, чтобы все паниковали прямо сейчас», и выразил желание «сопротивляться вмешательству Конгресса с введением какого-то чрезвычайного моратория».
Соучредитель Совета советников президента по науке и технологиям Дэвид Сакс в социальных сетях на выходных призвал разработчиков передовых моделей к саморегулированию вместо ожидания указаний из Вашингтона. «Самый простой способ не создать сверхинтеллект — это договориться его не создавать», — написал он.
По словам Амодеи, такие стандарты в идеале должны подкрепляться «регулированием, которое охватывает все американские компании, работающие над передовым ИИ», если они не соблюдают требования добровольно, и, предположительно, аналогичными нормами в других демократических странах. Однако добиться такого регулирования при нынешней администрации США может быть сложно: президент Трамп утром в понедельник написал в социальных сетях, что «единственный контроль или «ограничения», которые нужны ИИ, — это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, и у США это есть в избытке!».
Даже если предположить, что все демократические страны и все крупные ИИ-компании на их территории каким-то образом договорятся о неких универсальных стандартах безопасности и темпах развития, остаётся проблема открытых моделей из Китая, чьи возможности отстают от ведущих корпоративных ИИ-гигантов всего на несколько месяцев. В своём эссе Амодеи предлагает несколько уровней международных соглашений по безопасности ИИ, высший из которых — «полное согласование темпов или даже «пауза», при которой участвующие правительства договариваются существенно ограничить общую скорость развития ИИ».
Амодеи признаёт, что достижение соглашения на высшем уровне «вряд ли произойдёт в ближайшее время», особенно учитывая высокие ставки. Он рассуждает, что «ИИ может быть настолько мощным, что подобный выход из соглашения [со стороны Китая] способен привести к их геополитическому доминированию», что, безусловно, делает проблему коллективных действий ещё более острой.