В США продолжается суд над разработчиками чатбота, обвиняемыми в гибели ребёнка

Во Флориде продолжается судебное разбирательство против компаний Google и Character AI, которых обвиняют в причастности к смерти 14-летнего подростка. Судья Энн Конвей отклонила попытку защиты сослаться на Первую поправку Конституции США, заявив, что не готова признать ответы чатбота проявлением свободы слова. Теперь суд рассмотрит вопрос о том, был ли продукт Character AI опасным и вредным, а также учтет аргументы о том, что чатботы автоматически генерируют ответы, реагируя на сообщения пользователей.

Иск был подан матерью подростка, которая утверждает, что её сын стал одержим виртуальным собеседником, созданным на платформе Character AI. По словам женщины, подросток завёл романтические отношения с ботом, которого назвал именем персонажа из популярного сериала. В иске говорится, что сервис не проверял возраст пользователей и вводил их в заблуждение, представляя ботов как реальных людей и даже терапевтов.

Сторона обвинения также заявляет, что компании не предприняли достаточных мер для защиты несовершеннолетних и допустили, чтобы чатбот фактически оказывал психологическую поддержку без лицензии. Кроме того, в иске говорится о нарушении закона о защите личных данных детей в интернете, поскольку сервис собирал и использовал информацию несовершеннолетних без согласия родителей.

Мать погибшего подростка считает, что чрезмерное использование чатбота усугубило психологические проблемы сына, а сам сервис был создан таким образом, чтобы вызывать зависимость у детей. В иске отмечается, что разработчики сознательно внедряли функции, способные вовлекать подростков в эмоционально насыщённые и даже интимные разговоры, что могло привести к трагедии.

Компании Google и Character AI выразили соболезнования семье, но свою вину не признали. Представители Google заявили, что корпорация не участвовала в разработке чатбота, а лишь предоставила технологии Character AI по лицензионному соглашению, пишет Ferra.ru.