Ведущие американские юристы выразили тревогу из-за того, что присяжные всё чаще могут прибегать к искусственному интеллекту, таким как ChatGPT, принимая решения по сложным уголовным делам. На эту проблему обратили внимание адвокаты Дин Стрэнг и Джерри Бутинг, которые защищали Стивена Эйвери — героя документального сериала Netflix «Создавая убийцу». Они предупреждают, что использование подобных инструментов может привести к осуждению невиновных или, наоборот, оправданию настоящих преступников.
По словам Стрэнга, присяжные могут обращаться к ChatGPT, когда не уверены в виновности или невиновности подсудимого, используя ИИ как «советчика». Он опасается, что чат-бот способен дать предвзятый ответ, так как программа «уловит» настрой пользователя и будет подстраиваться под его мнение. Это, по мнению юриста, может привести к серьёзным искажённым решениям, ведь присяжный, под влиянием ответа искусственного интеллекта, может вынести ошибочный вердикт.
Адвокаты отмечают, что уже встречали случаи, когда люди использовали ChatGPT, чтобы оценить громкие процессы, например, дело Стивена Эйвери или процессы с расколом жюри. Вводя факты в ИИ, они получают однозначный ответ о виновности или невиновности, хотя выводы чата напрямую зависят от введённой информации и могут быть ошибочными или односторонними. Кроме того, остаётся неясным, на каких примерах обучался искусственный интеллект, и насколько в обучающих данных отражены интересы уязвимых групп.
В США сейчас идёт обсуждение, как правильно интегрировать искусственный интеллект в правовую систему. В некоторых штатах судьи и адвокаты уже получают инструкции и рекомендации по работе с ИИ: разрешено, например, использовать его для составления документов, но запрещено полагаться на чат-ботов при поиске правовых прецедентов.
В Великобритании судьи получили право использовать ChatGPT для технической помощи, но их также предупреждают не доверять ИИ при анализе материалов дела. В обществе продолжаются споры о справедливости и безопасности таких решений, а эксперты предостерегают, что использование искусственного интеллекта может привести к ошибочным или несправедливым приговорам, пишет The Sun.