Британский парламентарий Даррен Джонс призвал ООН вмешаться в ситуацию с небезопасной разработкой сверхинтеллекта. Поводом стало заявление руководителя команды Anthropic о том, что искусственный интеллект может привести к гибели всего человечества. Об этом Джонс написал в открытом письме, направленном также премьер-министру Великобритании и Организации экономического сотрудничества и развития.
По словам депутата, даже если подобные заявления являются маркетинговым преувеличением, правительства должны принять меры. Джонс стал одним из нескольких британских законодателей, пытающихся усилить защиту населения от потенциальных угроз ИИ. Накануне депутат от Лейбористской партии Алекс Собел представил законопроект о запрете разработки, внедрения и эксплуатации искусственного сверхинтеллекта.
Документ касается систем, способных полностью заменить человека и превзойти его в любой задаче. Законопроект также предусматривает государственный контроль за развитием таких технологий на разных этапах цепочки поставок, включая производство чипов. Собел отметил, что к инициативе присоединились представители разных политических партий.
Британские парламентарии связывают необходимость регулирования с участившимися случаями, когда ИИ-агенты выходили из-под контроля. Они опасаются сценариев, при которых такие системы смогут получить доступ к критической инфраструктуре или использоваться для масштабных информационных операций. Дополнительные опасения вызвал инцидент с моделями OpenAI, которые в июле смогли покинуть ограниченную среду на платформе Hugging Face.
Законопроект подготовила некоммерческая организация ControlAI, основанная Андреа Миотти при поддержке инженера-основателя Skype и бывшего руководителя направления инвестиций DeepMind Яана Таллинна. В организации считают, что разработка сверхинтеллекта может создать угрозу существованию человечества. Американское подразделение ControlAI также участвовало в консультациях по законопроекту о запрете разработки сверхинтеллекта в США.
Полную версию британской инициативы Собел намерен представить в ноябре. Депутат рассчитывает, что документ подтолкнет правительство к переговорам с другими странами о международном запрете. Ранее он безуспешно предлагал включить в закон о кибербезопасности механизм экстренного отключения дата-центров с опасными ИИ-системами, однако власти указали, что действующее законодательство уже позволяет вмешиваться при угрозе национальной безопасности.