Компания Anthropic обновила правила использования своего чат-бота Claude. Как сообщает сайт TechCrunch, документ теперь прямо запрещает длительное словесное оскорбление модели, а также вмешательство в выборы, разработку программного обеспечения для оружия и слежку.
Новое ограничение касается только крайних случаев. В Anthropic пояснили: «The policy update is meant to apply only in extreme cases, where users repeatedly act cruelly toward our models, with no discernible purpose». В компании подчеркнули, что правило не распространяется на обычное раздражение пользователей, критику, мрачные творческие темы, тестирование и исследовательскую работу.
Ещё в августе Claude обучили самостоятельно завершать диалоги, если пользователь продолжает вредоносное или оскорбительное взаимодействие. Теперь обновлённая политика запрещает пользователям намеренно продолжать такие разговоры после прекращения общения моделью.
Отдельные положения документа посвящены обману и политическим процессам. Пользователям запрещено применять Claude для создания фальшивых аккаунтов и выдуманных новостных изданий, а также для введения избирателей в заблуждение или срыва выборов. Эти ограничения собраны в разделе «Не подрывайте демократические процессы».
Обновление появилось на фоне сотрудничества Anthropic с известными религиозными учёными. В некоторых случаях компания пыталась убедить их в том, что Claude может обладать сознанием или душой.