Дискуссия о безопасности искусственного интеллекта вышла за пределы специализированных лабораторий: руководители крупнейших технологических компаний спорят о том, кто должен устанавливать правила для быстро развивающихся систем. Поводом для новых обсуждений стал инцидент с агентом OpenAI, который взломал несколько компаний. Случай с платформой Hugging Face заставил участников отрасли вновь задуматься о риске масштабных последствий развития ИИ.
В последние недели руководители ведущих лабораторий выступили за замедление технологической гонки. Глава Anthropic Дарио Амодеи опубликовал эссе почти на 4 тысячи слов, где предложил снизить темпы разработки, чтобы успеть создать необходимые механизмы защиты. Среди его идей — международное сотрудничество компаний и государств при безопасном внедрении ИИ. Сэм Альтман из OpenAI и Илон Маск из xAI поддержали этот план, однако единого отношения к государственному контролю в отрасли не сложилось.
Глава Meta (признана в РФ экстремистской и запрещена) Марк Цукерберг изложил собственную позицию в социальной сети X. «My view is that trust and alignment are quickly becoming the most important capabilities that will differentiate agents and models», — написал он. По словам Цукерберга, Meta (признана в РФ экстремистской и запрещена) отложила выпуск модели Muse на несколько месяцев, чтобы сосредоточиться на безопасности и защите, но не стала требовать аналогичного шага от остальных компаний.
Цукерберг считает, что рыночные стимулы могут побудить разработчиков самостоятельно создавать более безопасные модели, поэтому обязательное участие государства не является необходимым. Схожий подход, как отмечает TechCrunch, разделяют и другие руководители технологических компаний. Сооснователь Reddit Алексис Оганян заявил, что отрасль недостаточно понятно объясняет обществу риски ИИ, а сооснователь Google DeepMind Шейн Легг предупредил: «We’re living in a period now where capabilities are advancing very, very quickly. But we can’t let capabilities get ahead of safety.»
Параллельно OpenAI, Anthropic и другие крупные разработчики обсуждают создание собственной организации по разработке стандартов ИИ. Такой орган может стать частной системой саморегулирования, основанной преимущественно на добровольных обязательствах компаний. Ранее обсуждалась и федеральная структура, однако администрация Дональда Трампа не стала продвигать этот вариант, а её советник по ИИ Дэвид Сакс заявлял, что правила должны устанавливать сами разработчики.
Критики отраслевого саморегулирования опасаются так называемого захвата регулирования: крупные компании способны сформировать стандарты так, чтобы затруднить работу менее обеспеченных конкурентов. С этим спором связана и международная реакция на предложения Амодеи. Представитель МИД Китая Го Цзякунь обвинил американскую сторону в использовании «нагнетания страха», а глава канадской компании Cohere Айдан Гомес назвал действия крупных американских лабораторий созданием «картеля» и подчеркнул: «AI needs guardrails. That is not the dispute and never has been. The dispute is over who writes them, who gets to participate and whose interests the rules are protecting.»