Amazon Web Services выпустила Strands Decider 2B — открытую модель для выбора одного из заранее заданных вариантов. Она рассчитана на быстрые и недорогие решения, показывает степень уверенности в результате и достаточно компактна для локального запуска. О релизе Amazon объявила в ту же неделю, когда OpenAI представила похожую разработку.
Проект появился после того, как выдающийся инженер Amazon Марк Брукер познакомился с моделью Jev от TypeSafe и решил создать собственную версию. Его эксперимент ненадолго занял первое место в рейтинге Jevbench среди моделей сопоставимого размера. После этого инженеры Amazon доработали систему и выпустили её через Strands Labs — подразделение, занимающееся инструментами и протоколами для развёртывания ИИ-агентов.
По словам Брукера, потребность в таком решении стала очевидной во время общения с клиентами AWS. Их автоматизированным сценариям не всегда требовались возможности и расходы полноразмерной большой языковой модели. Strands Decider может использоваться на отдельном этапе рабочего процесса, когда системе нужно определить следующий шаг среди ограниченного набора вариантов.
«Что первоначально привлекло мое внимание в этом классе моделей, так это то, что они идеально подходят для принятия решения на одном из этапов рабочего процесса — “что мне делать дальше, исходя из того, где я сейчас нахожусь?”» — сказал Брукер изданию TechCrunch. Он добавил, что такой подход позволяет сделать этап более надёжным благодаря оценкам уверенности и закрытому набору ответов, а также снизить задержку и потенциальные затраты.
Как и другие модели принятия решений, Strands Decider использует основу большой языковой модели, в данном случае Qen3.5-2B, но не создаёт текст, а выдаёт откалиброванный выбор. Название Jev TypeSafe связала с именем экономиста Уильяма Стэнли Джевонса и его теорией о том, что снижение стоимости технологии, включая компьютерный интеллект, способно увеличить спрос на неё.
Брукер считает главным вызовом поиск баланса между скоростью, точностью и универсальностью модели. «Необходимо очень тщательно найти равновесие: повышать точность и калибровку на таких задачах, не ухудшая способность понимать разные языки и сохранять знания, которые делают модель универсальной, интересной и полезной», — заявил он TechCrunch. Основатель и генеральный директор TypeSafe Диогу Алмейда, в свою очередь, отметил: «Я понимаю, почему люди считают это золотой лихорадкой, но они могут недооценивать сложность создания действительно умных моделей». По его словам, нынешние разработки больше похожи на эксперименты специалистов по машинному обучению с интересной архитектурой, чем на работу команд, глубоко сосредоточенных на практической пользе интеллекта. Источником информации выступил TechCrunch.