Глава компании Anthropic Дарио Амодеи заявил на заседании Совета Безопасности ООН, что искусственный интеллект способен стать угрозой для всего человечества. Его слова приводит ТАСС. «Я даже полагаю, что ИИ может представлять угрозу человечеству в целом», — сказал руководитель одной из ведущих мировых компаний в сфере ИИ.
Амодеи отметил, что развитие технологии идёт крайне быстро. По его словам, ещё четыре года назад системы искусственного интеллекта почти не умели писать программный код и решать математические задачи уровня старших классов. Теперь, как заявил глава Anthropic, ИИ создаёт большую часть кода компании.
Руководитель Anthropic предположил, что при сохранении нынешних темпов через год или два, а возможно, и раньше, технология приблизится к уровню, который он описал как «страну гениев в дата-центре». При этом он подчеркнул, что передовые модели могут принести людям значительную пользу. Одновременно их развитие связано с серьёзными рисками.
К таким угрозам Амодеи отнёс возможность неправильного применения ИИ, в том числе для разработки биологического оружия. Ещё одной опасностью он назвал потенциальную утрату контроля над дальнейшим развитием технологии. По его словам, последствия стремительного прогресса требуют особого внимания.
Anthropic готова замедлять разработку искусственного интеллекта настолько, насколько это понадобится для обеспечения безопасности, заявил Амодеи. Он добавил, что подобные меры должны приниматься не отдельными компаниями, а иметь «общеотраслевой и глобальный масштаб». Ранее глава Anthropic опубликовал письмо с призывом притормозить развитие ИИ, чтобы «с умом распорядиться выигранным временем».
Инициативу поддержал генеральный директор OpenAI Сэм Альтман. Инвестор Майкл Бьюрри, ранее неоднократно предсказывавший обвалы американского фондового рынка, выступил с критикой этой позиции. Он предположил, что руководители компаний таким образом пытаются повысить стоимость своего бизнеса перед первичным размещением акций и скрыть замедление роста индустрии искусственного интеллекта.