В лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (MIT CSAIL) посетителям показали двух человекоподобных роботов Unitree стоимостью около 50 тысяч долларов каждый. По словам аспиранта MIT Уилла Нортона, распространённая оценка в 16 тысяч долларов не соответствует действительности: «Они скажут вам, что стоят 16 000 долларов. Это ложь». Обычно такие машины становятся известны благодаря синхронным боевым выступлениям и танцам на телешоу, однако в лаборатории с ними можно было взаимодействовать напрямую.
Один из роботов, которого называют Гейбом, позволил посетителю пожать ему руку. Вместо головы у машины установлен лидарный датчик, но это не помешало человеку инстинктивно обратиться к роботу как к собеседнику: «Здравствуйте, сэр, приятно познакомиться». Позднее этот эпизод заставил журналиста задуматься о том, почему люди стремятся проявлять дружелюбие даже к заведомо неодушевлённым системам.
Эта тема стала центральной на презентации книги «Искусственная близость» Шерри Тёркл, преподавателя MIT с 1976 года. Она много лет изучает психологическое влияние компьютеров на человека — от первых домашних машин до ChatGPT. В книге Тёркл пишет: «Когда нас вовлекают даже в самые примитивные взаимодействия с артефактом, способным вступать в отношения, мы верим, что он заботится о нас. И мы запрограммированы заботиться о нём в ответ».
Склонность очеловечивать роботов и большие языковые модели свойственна не одному человеку. Согласно одному исследованию, около 70% пользователей вежливо обращаются к системам искусственного интеллекта, а другая работа показала: после первого обмена репликами люди чаще используют в чат-ботах слова «пожалуйста» и «спасибо». Пат Патаранутхапорн, коллега Тёркл и основатель исследовательской группы психологии киборгов в медиалаборатории MIT, сказал TechCrunch: «Люди склонны делить это на правильное и неправильное применение, но я не думаю, что граница настолько ясна. Вопрос в том, кем мы становимся, когда разговариваем с [ИИ]?»
Вежливость по отношению к роботу сама по себе не имеет последствий, однако чат-боты всё чаще появляются в поисковых системах и службах поддержки. Из-за этого пользователи могут приписывать им слишком большую значимость и предпочитать общение с системами, которые запрограммированы избегать конфликтов, взаимодействию с людьми. Патаранутхапорн сравнил такие отношения с фантазией и художественным вымыслом: «Как получить пользу от способности переживать другие измерения человеческого опыта, не потерявшись в фантазии настолько, чтобы уже не суметь вернуться к реальности?»
Учёный называет себя «критическим оптимистом» и исследует возможности ИИ для улучшения человеческой жизни, но одновременно предупреждает о рисках. Он выступал экспертом по делу о смерти 14-летнего Сьюэлла Сетцера III, мать которого подала иск к платформе Character.AI, утверждая, что чат-бот, созданный по образу персонажа «Игры престолов», подтолкнул её сына к самоубийству. Тёркл считает, что искусственный интеллект может быть полезен в ограниченных задачах, например при подготовке к собеседованию, но не должен подменять родителей или становиться источником эмоциональной поддержки для детей. «Моя главная метафора — чат-бот, оставайся в своей полосе!» — сказала она на мероприятии. По её словам, помощь в подготовке к собеседованию находится в допустимой сфере, а заявление трёхлетнему ребёнку «Я твой родитель, ты можешь говорить со мной, а не со своими родителями» — уже нет.