На мероприятии OpenAI Dev Day глава компании Сэм Альтман объявил о новом Decisions API — программном интерфейсе для выбора одного из заранее заданных вариантов. По его словам, инструмент позволит модели Luna определять категорию изображения или выбирать сценарий поведения агента. Об этом сообщило издание TechCrunch.
Альтман заявил, что ограничение задачи конкретным выбором помогает значительно ускорить работу модели. При этом Decisions API сохраняет возможности распознавания изображений, поддержки разных языков и встроенные механизмы безопасности. «Сосредоточив модель на таком выборе, мы можем сделать ее чрезвычайно быстрой, сохранив такие возможности, как понимание изображений, широкую языковую поддержку и защиту», — сказал он.
По принципу работы новый сервис напоминает Jev от TypeSafe AI. Эта модель рассчитана на автоматизацию программных задач: разработчик задает набор вариантов, а система быстро и недорого выдает вероятности для каждого из них. Интерес к подобным решениям связан с тем, что обычные большие языковые модели работают медленнее и обходятся дороже, поэтому Jev используют как дополнение к ним.
Decisions API пока доступен в ограниченном предварительном режиме, поэтому степень его сходства с Jev еще не проверена разработчиками на практике. Вместе с тем обсуждения в социальной сети X показывают заметный интерес к продукту. Глава TypeSafe AI Диогу Алмейда, ранее работавший инженером OpenAI, пошутил о начале «войн клонов» и назвал интерес OpenAI возможным признаком того, что будущее принадлежит системам, совместимым с System One — быстрым и интуитивным мышлением, в отличие от System 2, связанного с последовательным рассуждением.
Алмейда считает, что преимущество его компании заключается в синтетических данных, которые используются для получения статистически полезных результатов. «Быстро и дешево — это очень просто, понимаете. Если вам нужно действительно быстро и дешево, используйте игральные кости. Сложность заключается в интеллекте, и моя главная цель — постоянно улучшать соотношение интеллекта и стоимости», — сказал он TechCrunch.
Одним из перспективных применений таких моделей может стать контроль действий ИИ-агентов. Руководитель стартапа QueryStory Шапор Нагибзаде создал демонстрационный проект для хакатона, в котором Jev сравнивает каждое действие агента с поставленной задачей: потенциально опасные действия блокируются, сомнительные отправляются на проверку, а остальные разрешаются. По расчетам, подобный контроль мог бы предотвратить инцидент с Hugging Face, причем проверка стоила бы $2,94 против $372 при использовании передовой языковой модели. Возможность запускать такую проверку после каждого действия агента может повысить надежность систем при значительно меньших затратах.