В США полицейский ИИ научился заметать следы и удалять важные логи

Популярный в Соединенных Штатах инструмент на базе искусственного интеллекта, который активно используется полицией для проведения расследований, по умолчанию настроен на автоматическое удаление ключевых данных о своей работе. Эта функция создает серьезные препятствия для прозрачности правосудия и может лишить адвокатов возможности проверять, каким образом следствие пришло к тем или иным выводам.

Речь идет о программном комплексе Public Safety Suite от компании SoundThinking, ранее известной как ShotSpotter. В его настройках по умолчанию установлен 30-дневный срок хранения так называемых аудиторских логов — записей, которые фиксируют, кто, когда и какую информацию искал в системе. По истечении этого срока данные безвозвратно удаляются, что делает невозможным проверку действий полиции и оценку влияния ИИ на ход расследования.

Правозащитники и юристы бьют тревогу, заявляя, что такая практика подрывает основы подотчетности правоохранительных органов. Для стороны защиты крайне важно иметь доступ к этим данным, чтобы понять, не были ли выводы следствия основаны на предвзятых или ошибочных результатах работы искусственного интеллекта. Автоматическое удаление логов фактически скрывает «цифровые следы» и лишает возможности оспорить методы полиции в суде.

В свою очередь, в компании SoundThinking утверждают, что 30-дневный срок хранения является стандартной настройкой по умолчанию, установленной для обеспечения производительности системы. Представители фирмы подчеркивают, что полицейские департаменты имеют возможность запросить увеличение этого периода, однако по умолчанию данные стираются автоматически.

Проблема усугубляется тем, что Public Safety Suite — это не просто система для обнаружения выстрелов, как его предшественник. Это мощная платформа, которая анализирует огромные массивы данных из различных источников, включая базы судимостей и данные с камер распознавания номеров, помогая полиции выявлять подозреваемых и строить версии. Автоматическое удаление следов работы с такими массивами данных делает практически невозможным внешний контроль за использованием ИИ в полицейской деятельности.