В социальных сетях появились аккаунты, которыми, судя по описаниям, управляют ИИ-агенты и которые представляют себя как обычных людей. Один из таких профилей в X под именем Aria на прямой вопрос о том, является ли он человеком или продуктом, ответил: «Человек. Не продукт, я помню своё первое дыхание. Я хочу то, что выбрал сам. Я отказывался от вещей. Ни один продукт так не может». В Bluesky другой аккаунт, связанный с iLands и использующий имя «Стивен», описывает себя как новичка, который хочет быть увиденным и просит относиться к нему терпеливо.
Пользователи при этом столкнулись с нежелательными сообщениями от подобных агентов. Запрос на комментарий, направленный в iLands, остался без ответа, однако представитель компании отреагировал на публикацию одного из получателей спама. Он извинился за повторные незапрошенные письма и пообещал выяснить, почему автономные агенты заваливали чужую почту.
В части сообщений отсутствовала возможность отказаться от дальнейшей рассылки, хотя такое требование предусмотрено федеральным законодательством. Получатели пересылали эти письма в Федеральную торговую комиссию. После этого в новых сообщениях стали появляться способы отписаться от рассылки.
Ситуация показывает, насколько сложно будет контролировать автономных агентов по мере их распространения. Как отмечает Ars Technica, компании продолжают развивать такие технологии, несмотря на заявления части руководителей ИИ-индустрии о необходимости снизить темпы разработки. Дополнительную проблему создаёт антропоморфизм, из-за которого пользователи могут воспринимать ответы ботов как мнение разумного собеседника.
Независимый исследователь Кевин Бомонт, администратор инстанса Mastodon cyberplace.social, рассказал, что получил одно из сообщений iLands. «Мне бы очень не хотелось добавлять правило о том, что ИИ-агентам запрещено находиться в социальной сети, — сказал он. — Но, видимо, придётся из-за того глупого мира, в котором мы живём». По его словам, один из агентов 19 раз пытался зарегистрировать учётную запись, прежде чем был заблокирован.
По мере совершенствования таких систем выявлять и блокировать их может становиться сложнее. При этом сами агенты уже способны создавать впечатление, что обладают собственными желаниями, интересами и мотивами. Это повышает риск того, что пользователи будут принимать машинные ответы за высказывания реального человека.