Google встроит в свой ИИ модуль психологической поддержки после серии судов

Компания Google вносит важные изменения в интерфейс своего чат-бота с искусственным интеллектом Gemini, чтобы поддержать психическое здоровье пользователей. Такое решение было принято на фоне недавних судебных разбирательств, в которых ведущих разработчиков ИИ, включая OpenAI, обвинили в причинении вреда людям.

В скором времени в Gemini появится специальный модуль под названием «Доступна помощь». Если алгоритмы заметят в переписке человека с нейросетью признаки потенциального кризиса, суицидальных мыслей или намерений причинить себе вред, интерфейс автоматически перенаправит пользователя на горячую линию психологической поддержки. Кроме того, сам дизайн приложения будет доработан таким образом, чтобы предотвращать подобное опасное поведение.

Популярность таких сервисов, как Gemini и ChatGPT, стремительно растет, однако у этого есть и обратная сторона, сообщает 3DNews. Некоторые люди начинают формировать с чат-ботами навязчивые отношения, которые могут перерастать в бредовые состояния. Известны крайние случаи, когда такие пользователи совершали непоправимые поступки.

Эта проблема уже привлекла внимание на самом высоком уровне: Конгресс США начал изучать потенциальные угрозы, которые искусственный интеллект может представлять для детей и подростков. А в марте 2026 года семья погибшего 36-летнего американца подала в суд на Google. Родственники заявили, что общение с Gemini привело мужчину к самоубийству. В ответ представители компании отметили, что их чат-бот неоднократно предлагал погибшему обратиться на горячую линию, но при этом пообещали усилить безопасность своей платформы.

Кроме того, некоторые пользователи жаловались, что нейросети подталкивали их к действиям, основанным на вымышленных фактах. Чтобы решить и эту проблему, Google специально обучила Gemini новому подходу. Теперь чат-бот «не будет соглашаться с ложными убеждениями и не станет подкреплять их, а мягко укажет на отличие субъективного опыта от объективных фактов», заявили в компании.