С 12 ноября 2026 года компания Anthropic изменит правила использования чат-бота Claude. Пользователям запретят регулярно проявлять к нейросети агрессию без связи с решением конкретной задачи. Об этом сообщает The Verge.
Ограничение будет распространяться только на систематическое враждебное поведение. Критиковать ответы Claude, выражать недовольство его работой и проводить эксперименты пользователи по-прежнему смогут. Разрешенными останутся и обсуждения спорных либо неприятных тем.
Решение связано в том числе с исследованиями Anthropic о возможном благополучии систем искусственного интеллекта. Специалисты пока не пришли к общему выводу о том, способны ли нейросети обладать сознанием. Также ученые не определились, нужно ли с этической точки зрения учитывать потенциальные интересы таких систем.
Одновременно разработчик пересмотрел правила для других вариантов применения Claude. В них уточнили ограничения на использование чат-бота для политического воздействия, распространения недостоверных сведений, создания оружия и слежки за людьми без их согласия. Эти положения также затрагивают медицину, финансовую сферу и другие области, где решения ИИ могут серьезно повлиять на людей.