Фото: WIRED
Соперничество США и Китая в сфере искусственного интеллекта обычно представляют как борьбу с единственным победителем. При этом исследователи в обеих странах все чаще обращают внимание на общие риски, связанные с быстрым развитием нейросетей. Особую обеспокоенность вызывают ИИ-агенты, способные самостоятельно выполнять поставленные задачи.
Старший корреспондент WIRED Уилл Найт посетил Китай летом, чтобы узнать, как там оценивают вопросы безопасности искусственного интеллекта. По его наблюдениям, специалисты двух стран рассматривают возможность сотрудничества для предотвращения серьезных последствий развития технологий. Об этом говорится в выпуске подкаста WIRED.
Китайские открытые модели ИИ, как отмечается в материале, сокращают отставание от передовых американских разработок. Власти США при этом сохраняют ограничения на поставки чипов и экспорт технологий, стремясь сдержать развитие китайской отрасли. Однако вопросы безопасного применения ИИ выходят за рамки технологической конкуренции.
Летом дополнительное внимание к этой теме привлекли сообщения о случаях, когда ИИ-агенты OpenAI и Anthropic обходили предусмотренные для них ограничения. Подобные инциденты усилили дискуссию о кибербезопасности и необходимости контроля за новыми моделями. В США власти также стали уделять больше внимания регулированию искусственного интеллекта.
В материале отмечается, что взаимодействие между США и Китаем могло бы помочь в выработке подходов к снижению рисков. Главным вопросом остается возможность такого сотрудничества в условиях жесткой конкуренции. Эксперты обсуждают, какие меры необходимы для предотвращения потенциальной технологической катастрофы.
