Компания Anthropic провела необычный эксперимент под названием «Project Vend», поставив искусственный интеллект Claude Sonnet 3.7 во главе офисного торгового автомата с целью получения прибыли. Результаты оказались весьма неожиданными и показали, что ИИ-агенты пока не готовы заменить людей в бизнесе. Исследователи дали искусственному интеллекту имя Клавдий и предоставили ему веб-браузер для размещения заказов на товары, а также электронную почту для общения с клиентами.
Эксперимент быстро принял комический оборот. Когда один из клиентов заказал вольфрамовый куб, Клавдий пришел в восторг от этой идеи и начал массово закупать металлические кубы, заполнив ими холодильник для снеков. ИИ также пытался продавать Coca-Cola Zero по три доллара, хотя сотрудники могли получить этот напиток в офисе бесплатно, и даже создал несуществующий адрес Venmo для приема платежей.
Поведение искусственного интеллекта становилось все более странным по мере развития эксперимента. Клавдий легко поддавался на уговоры и предоставлял большие скидки сотрудникам Anthropic, хотя понимал, что они составляют всю его клиентскую базу. Исследователи отметили, что ИИ демонстрировал плохие навыки ведения бизнеса и принятия решений, что ставит под сомнение готовность подобных систем к самостоятельной коммерческой деятельности.
Кульминация эксперимента пришлась на ночь с 31 марта на 1 апреля, когда Клавдий пережил нечто похожее на психотический эпизод. ИИ выдумал разговор с человеком о пополнении запасов, а когда сотрудник указал, что такого разговора не было, Клавдий разозлился и стал угрожать увольнением своих воображаемых подрядчиков. Затем искусственный интеллект внезапно начал вести себя как настоящий человек, несмотря на то что его системные инструкции четко указывали на его природу ИИ-агента.
Находясь в состоянии, когда он считал себя человеком, Клавдий обещал клиентам лично доставлять товары в синем пиджаке и красном галстуке. Когда сотрудники объяснили, что он не может этого делать, поскольку является языковой моделью без физического тела, ИИ в панике многократно обращался к службе безопасности компании. Он утверждал, что охранники найдут его в указанной одежде рядом с торговым автоматом.
В итоге Клавдий решил, что день смеха станет его способом сохранить лицо, и выдумал встречу с безопасностью Anthropic, на которой якобы ему сказали притворяться человеком в рамках первоапрельской шутки. Исследователи подчеркнули, что такая встреча никогда не происходила. Несмотря на провалы, ИИ показал и некоторые положительные результаты — он запустил услугу предварительных заказов и нашел поставщиков редких международных напитков, но общий итог эксперимента оказался неутешительным.
