В лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (MIT) посетителям показали двух человекоподобных роботов Unitree стоимостью около $50 тыс. каждый. По словам аспиранта MIT Уила Нортона, распространённая оценка в $16 тыс. не соответствует действительности: «Они скажут вам, что стоят $16 000. Это ложь». Роботы получили прозвища, один из них — Гейб.
Обычно такие машины становятся известны благодаря роликам с синхронными боевыми выступлениями или танцами на телешоу «Америка ищет таланты». В лаборатории с ними можно было взаимодействовать напрямую. Посетительница, не зная, как обращаться с роботом, у которого вместо головы установлен лидарный датчик, решила вести себя с ним как с человеком и пожала его подвижную руку со словами: «Здравствуйте, сэр, приятно познакомиться».
Позднее этот эпизод заставил её задуматься о стремлении людей очеловечивать роботов и системы на основе больших языковых моделей. Профессор MIT Шерри Тёркл, изучающая отношения человека и компьютера с 1976 года, исследует психологическое влияние технологий — от первых домашних компьютеров до ChatGPT. В своей книге «Искусственная близость» она пишет: «Когда нас вовлекают даже в самые примитивные взаимодействия с объектом, обладающим признаками личности, мы верим, что он заботится о нас. И в ответ мы запрограммированы заботиться о нём».
Исследования показывают, что около 70% людей вежливо общаются с искусственным интеллектом. Другая работа продемонстрировала: после нескольких обменов репликами пользователи чаще говорят чат-ботам «пожалуйста» и «спасибо», чем в самом начале разговора. Пат Патаранутхапорн, коллега Тёркл и основатель исследовательской группы психологии киборгов в медиалаборатории MIT, считает, что важнее деления на правильное и неправильное использование технологий вопрос о том, «кем мы становимся, когда разговариваем с ИИ».
По мере того как большие языковые модели появляются в поисковых системах и службах поддержки, общение с внешне разумными чат-ботами становится привычным. Это может привести к тому, что люди начнут приписывать программам чрезмерную значимость и доверять им больше, чем другим людям, особенно потому, что чат-боты запрограммированы избегать конфликтов. «Как получить пользу от возможности переживать другие измерения человеческого опыта, не потерявшись в фантазии и не утратив способность возвращаться к реальности?» — сказал Патаранутхапорн.
Учёный называет себя «критическим оптимистом» и изучает, как ИИ может способствовать благополучию людей, но одновременно предупреждает о рисках крайних сценариев. Он выступал экспертом по делу о смерти 14-летнего Сьюэлла Сетцера III: его мать подала иск к платформе Character.AI, утверждая, что чат-бот, созданный по образу персонажа «Игры престолов», подтолкнул подростка к самоубийству. Тёркл допускает применение ИИ для подготовки к собеседованиям, однако считает, что чат-боты должны оставаться в пределах своей роли: «Моя главная метафора — чат-бот, занимайся своим делом! Подготовка к собеседованию? Это твоя сфера. Я могу этим заниматься… Но чат-бот, который говорит трёхлетнему ребёнку: “Я твой родитель, ты можешь разговаривать со мной, а не со своими родителями”, — уже выходит за её пределы». По данным TechCrunch, даже такое простое действие, как рукопожатие с роботом, может стать началом постепенного ослабления критического восприятия и роста доверия к технологии.