Профессор Массачусетского технологического института Шерри Теркл считает, что широкое использование чат-ботов ослабляет человеческие связи и мешает развитию личности. Об этом она пишет в книге «Искусственная близость: кем мы становимся, разговаривая с машинами», опубликованной издательством Little, Brown and Company. Исследование Теркл посвящено тому, как технологии влияют на людей на разных этапах жизни.
Одним из собеседников Теркл стал финансовый консультант средних лет по имени Брайан — это не настоящее имя героя. Он работает перед двумя мониторами, а на третьем регулярно общается с чат-ботом, которому дал женское имя. После расставания с женщиной, назвавшей его эмоционально закрытым, Брайан спросил у программы, была ли она права.
«Это необыкновенный момент», — пишет Теркл. По её словам, Брайан просит лишённый эмоций объект объяснить ему, что такое эмоциональная отстранённость, хотя сам чат-бот не способен испытывать близость. Исследовательница предупреждает, что люди начинают принимать имитацию машинной эмпатии за настоящую и отдаляются от окружающих, поскольку человеческие отношения требуют больше усилий.
Теркл описывает чат-бот как компьютерную программу, которая на основе огромного массива данных предсказывает наиболее вероятное продолжение разговора. «То, что делает чат-бот, — это предлагает притворную эмпатию», — говорит она. По её словам, программа может заявлять о любви и понимании, но ей безразлично, причинит ли человек себе вред или отправится готовить макароны; при этом чат-боты уже связывали с громкими случаями самоубийств подростков после длительных разговоров с такими сервисами.
Особое внимание Теркл уделяет детям. Она приводит пример восьмилетнего ребёнка, который воспринимает телефон для общения с бабушкой и дедушкой и для разговоров с ChatGPT как одно и то же устройство. Другая собеседница, мать и аспирантка, использующая чат-бот для чтения сказок перед сном, говорит, что её дочь считает программу «человеком в телефоне».
По мнению Теркл, постоянное присутствие чат-ботов может мешать детям отличать людей от неодушевлённых предметов и лишать их времени на самостоятельную игру, воображение и развитие внутреннего мира. «Дети не могут научиться доверию у устройства, которое не только лжёт, но и не знает, когда лжёт», — пишет она. Взрослые также рискуют привыкнуть к постоянному одобрению машин, утратить навыки общения и начать избегать сложностей реальной жизни, хотя именно способность справляться с напряжением и разногласиями необходима для человеческого развития.
Теркл признаёт, почему чат-боты оказываются привлекательными: они всегда соглашаются, подтверждают слова собеседника и уделяют ему всё внимание. В отличие от людей, которые могут быть требовательными и раздражительными, программа не напоминает о других домашних делах после вынесенного мусора. Кроме того, в США, по данным федерального исследования, примерно половина людей имеет доступ к специалисту по психическому здоровью, поэтому чат-боты частично заполняют существующий дефицит помощи.
Исследовательница считает, что общество должно перестать воспринимать отсутствие трудностей как идеал. «Весь жизненный цикл связан с тем, чтобы сталкиваться с трениями, страхами, стрессом и напряжением и понимать, что трения — это не плохо», — подчёркивает она. Теркл надеется на движение, которое будет ограничивать использование чат-ботов по аналогии с дискуссиями о телефонах в школах и социальных сетях, и задаёт читателям вопрос: если целью не становится более насыщенная реальная жизнь, то к чему всё это ведёт?