Российские исследователи сообщили о разработке нового алгоритма, который позволяет создавать системы искусственного интеллекта с принципиально понятной для человека логикой принятия решений. Этот подход, основанный на принципе «белого ящика», как ожидается, значительно ускорит развитие безопасных и предсказуемых ИИ-систем. Разработка принадлежит специалистам из Института теоретической и экспериментальной биофизики РАН в Пущино.
Как сообщает агентство ТАСС, данная технология призвана решить одну из ключевых проблем современного генеративного ИИ — его «непрозрачность». Большинство действующих нейросетей функционируют по принципу «черного ящика», когда даже сами разработчики не могут в полной мере объяснить, каким образом алгоритм приходит к тому или иному выводу. Это не только затрудняет оптимизацию систем, но и создает риски непредсказуемого поведения ИИ при его практическом применении.
По словам одного из авторов, научного сотрудника ИТЭБ РАН Льва Калмыкова, предложенный ими вариант символического ИИ кардинально отличается от существующих аналогов. Он базируется на полностью прозрачных алгоритмах, что делает его «белым ящиком» в противовес «черным ящикам» генеративных нейросетей. Ранее в США запускали программу «Объяснимого ИИ», однако она позволила лишь частично интерпретировать работу нейросетей, не устранив неопределенность в их надежности.
В основе новой концепции лежат так называемые логические клеточные автоматы — математические модели, описывающие пространство из ячеек, состояние которых меняется по заданным правилам. Ученые из ИТЭБ РАН и их коллеги из Института биофизики клетки РАН применили этот подход для создания «прозрачной» системы ИИ, которую уже успешно использовали для проверки ряда экологических гипотез, в частности, для решения парадокса биоразнообразия.
Исследователи полагают, что разработанная ими технология имеет большой потенциал. На ее основе можно создавать не только узкоспециализированные, но и системы искусственного интеллекта общего назначения. Кроме того, возможна разработка гибридных систем, которые будут эффективно сочетать в себе преимущества как «белых», так и «черных ящиков».