Исследование Университета Суррея призывает пересмотреть доверие к системам ИИ

Исследователи Университета Суррея провели масштабное исследование о том, насколько оправдано наше доверие к искусственному интеллекту. В современном мире ИИ все чаще принимает решения, влияющие на нашу повседневную жизнь - от банковских операций до здравоохранения и обнаружения преступлений. Ученые призывают к немедленному пересмотру подходов к разработке и оценке моделей ИИ.

В ходе исследования выявлены тревожные случаи, когда системы ИИ не могли адекватно объяснить свои решения, оставляя пользователей в замешательстве. Особенно остро эта проблема проявляется в здравоохранении, где случаются ошибочные диагнозы, и в банковской сфере с ложными предупреждениями о мошенничестве. Несмотря на то, что алгоритмы ИИ способны с высокой точностью выявлять мошеннические транзакции, они пока не могут четко объяснить причины своих решений.

Для решения этих проблем исследователи предложили комплексную систему SAGE, учитывающую настройки, аудиторию, цели и этические аспекты. Эта система призвана сделать объяснения ИИ не только понятными, но и контекстуально релевантными для конечных пользователей. Исследователи также применили методику проектирования на основе сценариев, которая позволяет глубже понять реальные потребности пользователей.

Доктор Вольфганг Гарн, соавтор исследования, подчеркивает необходимость создания систем ИИ, которые не только демонстрируют интеллект, но и предоставляют понятные объяснения своих решений. Исследование также указывает на важность того, чтобы модели ИИ могли объяснять свои выводы как в текстовой, так и в графической форме, учитывая различные способы восприятия информации пользователями.