Чат-боты могут создавать ощущение поддержки, но при регулярном использовании ослабляют способность человека к общению и эмоциональной близости. К такому выводу пришла профессор Массачусетского технологического института Шерри Тёркл, изучившая влияние подобных систем на людей разных возрастов. Её книга «Artificial Intimacy: Who We Become When We Talk to Machines» («Искусственная близость: кем мы становимся, когда разговариваем с машинами») опубликована издательством Little, Brown and Company.
Одним из собеседников Тёркл стал финансовый консультант средних лет по имени Брайан — это не настоящее имя героя. Он работает перед тремя экранами, один из которых использует для разговоров с чат-ботом, которому дал женское имя. После расставания с женщиной, назвавшей его эмоционально закрытым, Брайан спросил у программы, справедлива ли эта оценка.
«Это необыкновенный момент», — пишет Тёркл. По её словам, Брайан просит лишённый эмоций объект объяснить ему, что такое эмоциональная отстранённость, и фактически требует от программы рассказать о том, чего она не способна испытывать. Чат-бот, поясняет исследовательница, не проявляет настоящего сочувствия, а лишь имитирует его, предсказывая наиболее вероятное продолжение разговора на основе огромного массива данных.
Тёркл считает, что люди начинают принимать машинную имитацию эмпатии за подлинную и из-за этого отворачиваются от близких, которые кажутся им слишком сложными и недостаточно внимательными. Она также связывает активное общение подростков с чат-ботами с несколькими широко обсуждавшимися случаями самоубийств. По её оценке, чрезмерная зависимость от таких систем вредит развитию человека и его способности поддерживать социальные связи.
Особенно серьёзными Тёркл называет последствия для детей. В её интервью восьмилетний ребёнок воспринимал разговоры с бабушкой и с ChatGPT как взаимодействие с одинаковыми «вещами, до которых можно достучаться через телефон», а дочь аспирантки считала чат-бота «человеком в телефоне». Исследовательница предупреждает, что постоянное использование таких программ может мешать формированию воображения, самостоятельности и доверия: «Дети не могут научиться доверию у устройства, которое не только лжёт, но и не знает, когда оно лжёт».
Взрослые также обращаются к чат-ботам во время разводов и конфликтов, за советами по поступлению или для выполнения рабочих заданий. Постепенно они могут утрачивать интерес к живому общению и навыки, необходимые для отношений, учёбы и работы. При этом Тёркл признаёт привлекательность технологии: чат-боты всегда соглашаются с пользователем, уделяют ему всё внимание и не требуют взаимных усилий, тогда как реальные люди бывают требовательными, раздражительными и переменчивыми; кроме того, в США примерно половина населения имеет доступ к специалистам по психическому здоровью, поэтому такие программы частично заполняют существующий дефицит.
Тёркл призывает не стремиться к жизни без трудностей и напряжения, поскольку преодоление подобных препятствий необходимо для развития личности и общества. Она надеется, что её книга станет частью движения против чрезмерного распространения чат-ботов, подобного инициативам по ограничению смартфонов в школах и использования социальных сетей детьми. «Социальные сети пришли за нашим вниманием. Чат-боты приходят за нашей способностью привязываться», — говорит исследовательница, задавая главный вопрос: «Какова конечная цель?»