Компания TypeSafe AI, созданная бывшим исследователем OpenAI Диогу Алмейдой, представила модель Jev, которая не генерирует текст, а выдаёт вероятностные оценки, названные разработчиками «калиброванными решениями». По данным TechCrunch, проект призван решить проблему применения языковых моделей для автоматизации. Алмейда участвовал в создании ChatGPT и разработке метода обучения с подкреплением на основе обратной связи от людей (RLHF).
Алмейда считает, что современные системы слишком хорошо оптимизированы под человеческий язык, тогда как компьютерам для автоматизации требуется другой формат взаимодействия. «We have lightning in a bottle, and yet it is not useful,» Almeida told TechCrunch. «I’ve been battling that problem since then. It took me a while to come to the conclusion: the problem is we are optimizing for human language … We have been super good at human language for four years, but it’s not useful for automation because computers speak a different language.»
Два года назад исследователь покинул OpenAI и основал TypeSafe AI. Выпущенная компанией модель построена на архитектуре трансформера, но не относится к большим языковым моделям (LLM). Пользователь заранее задаёт возможные варианты ответа, поэтому Jev не должна допускать галлюцинаций. Отказ от генерации текста также делает систему быстрой и дешёвой: выходные токены не тарифицируются, а входные считаются миллиардами, а не миллионами.
Интерес разработчиков оказался настолько высоким, что API компании на короткое время перестал справляться с обслуживанием пользователей. Jev применяют прежде всего для автоматизации программного обеспечения. Инженер Vercel Пранит Шарма рассказал, что после замены модели OpenAI Luna 5.6 на Jev при проверке команд на безопасность результаты стали получаться в 5–18 раз быстрее и оказались точнее.
Технический директор Bryo AI Нихил Мудхолкар сравнил Jev с Gemini при классификации деловых писем. Gemini показала немного более высокую точность, однако её использование оказалось в 10–20 раз дороже. Особенно полезными Мудхолкар назвал вероятностные оценки Jev, поскольку они позволяют надёжнее автоматизировать рабочие процессы. Модель также предлагают использовать для контроля других систем, отслеживания действий ИИ-агентов и предотвращения попыток обхода ограничений.
Jev может применяться и для выбора подходящей модели под конкретную задачу. По словам технического директора Earendil Армина Ронашера, использование LLM для такой сортировки было бы слишком затратным, тогда как скорость и низкая цена Jev позволяют выполнять её в реальном времени. Название модели отсылает к экономисту XIX века Уильяму Стэнли Джевонсу и парадоксу, согласно которому снижение стоимости ресурса способно привести к росту его потребления.
Алмейда не раскрывает архитектуру Jev, хотя внешние наблюдатели предполагают, что она может быть создана на основе языковой модели с открытыми весами. TypeSafe называет Jev моделью «системы первого типа», ориентированной на интуитивные решения и конкретные задачи, а не на рассуждения. По словам основателя, обучение проходит исключительно на синтетических данных с использованием метода «обучения с подкреплением на основе калиброванных решений». Компания планирует выпускать новые версии модели для разных типов данных, а технический директор Earendil ожидает появления конкурентов.