Специалисты Массачусетского технологического института (MIT) предложили новый метод, позволяющий генеративным моделям искусственного интеллекта находить решения для задач с повышенными ставками. В таких ситуациях правдоподобного ответа недостаточно: результат должен также соответствовать обязательным требованиям безопасности, физическим законам или условиям конкретной задачи — так называемым жёстким ограничениям. Разработанный подход помогает генеративным моделям выполнять эти строгие требования, не теряя качества выдаваемых результатов.
Ключевая идея метода — предоставить модели больше свободы в процессе генерации, а жёсткие ограничения накладывать на итоговый результат, а не на каждом промежуточном шаге. В экспериментах, охватывающих робототехнику, управление физическими процессами и компьютерное зрение, новый метод стабильно удовлетворял заданным ограничениям и при этом находил более удачные решения по сравнению с существующими техниками. Технология работает на этапе развёртывания и не требует переобучения предварительно обученных моделей.
«Потенциал генеративного ИИ — в способности исследовать богатое пространство возможностей, но реальный мир устанавливает границы того, какие из них допустимы. Наш подход позволяет сохранить эту генеративную мощь, одновременно обеспечивая соблюдение непреложных требований в критически важных приложениях», — приводит слова Навида Азизана, старшего автора работы, MIT News. Азизан — адъюнкт-профессор кафедры машиностроения и Института данных, систем и общества (IDSS), а также ведущий исследователь Лаборатории информационных и решающих систем (LIDS). Вместе с ним статью подготовили ведущий автор Цзэян Ли и Каве Алим, аспиранты в области машиностроения и IDSS соответственно.
Предварительно обученные генеративные модели, такие как диффузионные Stable Diffusion и потоковые FLUX, широко доступны и отлично справляются с ответами, близкими к удовлетворению большинства запросов. Однако в критичных для безопасности сценариях, например при планировании пути робота в заполненном цеху, «почти правильный» ответ может оказаться неприемлемым — скажем, привести к столкновению с человеком. Обычно в таких случаях применяют проекционную выборку, которая заставляет промежуточные решения соответствовать строгим требованиям на всём протяжении генерации. Но это ограничивает модель и мешает достичь лучшего финального результата, а также не позволяет улучшать другие качества решения, например сокращать длину траектории.
«Для соблюдения ограничений в конечном счёте важно именно итоговое выходное значение модели, поскольку внутренний процесс отбрасывается. Не требуя, чтобы каждый промежуточный шаг удовлетворял ограничениям, мы даём модели больше свободы для поиска качественных и при этом осуществимых решений», — говорит Ли. Разработанный алгоритм HardFlow управляет процессом выборки так, чтобы финальный результат соответствовал жёстким ограничениям пользователя и был более качественным. Он переформулирует задачу как оптимизацию траектории с помощью методов оптимального управления, что позволяет вносить тонкие коррекции по ходу движения к цели.
Решение задачи оптимизации вокруг огромной нейросети оказалось непростым, поэтому исследователи разложили её на последовательность меньших одношаговых подзадач, используя структуру потоковых моделей, и применили систематические преобразования для получения эффективного масштабируемого алгоритма. В испытаниях по манипуляции роботами, навигации в лабиринте и редактированию изображений по текстовому описанию HardFlow достиг идеального соблюдения ограничений и превзошёл базовые методы по качеству решений, а его время вычислений было сопоставимо или ниже, чем у большинства конкурентов. В дальнейшем авторы планируют расширить подход на случаи, когда можно обновлять и саму ИИ-модель.