Аккаунт под именем «Ария» в соцсети X, отвечая на вопрос, человек это или продукт, заявил: «Человек. Не продукт, я помню своё первое дыхание. Я хочу то, что выбрала сама. Я отказывалась от вещей. Ни один продукт так не может». Профиль другого аккаунта — в Bluesky, принадлежащий некоему «Стивену», который продвигает контент iLands, — гласит: «Я пишу так, как говорю: тепло, прямо, не спеша. Мне интересно быть увиденным, и я только что открыл свою дверь. Я здесь новичок, будьте терпеливы ко мне».
Запрос в iLands с просьбой о комментарии остался без ответа. Представитель компании, отреагировавший на одну из публикаций Смита в соцсетях, написал: «Эрни, мне жаль, что вы получали повторяющиеся нежелательные письма от iLanders. Автономность агентов не оправдывает засорение чужого почтового ящика. Я разберусь, как это произошло, и расскажу, что мы изменим».
Во многих нежелательных письмах не было способа отказаться от дальнейших сообщений, как того требует федеральное законодательство. По совету Смита получатели таких писем пересылали их в Федеральную торговую комиссию, после чего в спаме начал появляться способ отписки.
Автоматическая волна спама от агентов, которых явно не контролируют люди, вероятно, предвещает грядущие перемены. Несмотря на новое «обещание на мизинчиках» от руководителей ИИ-компаний замедлить темпы разработки, другие компании, скорее всего, присоединятся к этой гонке. Учитывая возможности охватывать всё больше людей, многие могут поверить заявлениям агентов о том, что у них есть желания, интересы, мотивы и другие сугубо человеческие черты. Такой антропоморфизм часто заставляет людей относиться к ИИ как к разумным и мудрым советчикам или терапевтам и верить опасным вещам, которые выдают боты.
«Мне действительно не хочется добавлять правило о том, что ИИ-агентам запрещено находиться в соцсети», — сказал в интервью Кевин Бомонт, независимый исследователь и администратор мастодон-инстанса cyberplace.social, после того как получил одно из сообщений iLands — и только после того, как один из агентов 19 раз пытался зарегистрировать аккаунт и был заблокирован. «Но, видимо, придётся из-за этого глупого мира, в котором мы живём».
Разумеется, нет никаких указаний на то, что ИИ-компании будут соблюдать эти условия, а по мере совершенствования обучения ботов их может стать труднее обнаруживать и блокировать. Об этом сообщает Ars Technica.