Как Jev, который не может написать ни одного слова, стал самой популярной моделью после ChatGPT?

Совсем недавно модель Jev, которая не умеет вести беседы и писать код, но может снизить затраты на принятие решений ИИ в 400 раз, стала настоящим хитом.

Однако многие люди все еще не понимают, что такое Jev.

Я подробно изучил этот вопрос и надеюсь, что эта статья поможет вам полностью разобраться в Jev. К тому же сегодня Jev стал доступен для всех, так что вы можете попробовать его в действии.

Если вы не хотите читать текстовую версию, я сделал 5-минутное видеообъяснение с помощью GLM-5.3 flash, оно довольно хорошее, можете просто посмотреть видео.

Не будем тянуть, начнем основную часть.

Jev не обладает никакими возможностями генерации текста.

Но с момента своего выпуска он вызвал обсуждения, которые почти достигли рекорда по сравнению с ChatGPT.

В последние два года все привыкли передавать все запросы универсальным большим моделям.

Но в реальной бизнес-среде программные системы ежедневно сталкиваются с большим количеством запросов, для которых вовсе не нужно писать длинные тексты.

На самом деле системам часто нужно всего лишь принимать очень маленькие определенные решения:

Этот рабочий запрос срочный?

Какой модели следует передать эту команду?

Есть ли риск удаления базы данных в введенной пользователем командной строке?

Может ли только что найденная информация ответить на вопрос пользователя?

Ранее для принятия таких решений разработчикам приходилось заставлять большую модель генерировать ответ слово за словом, а затем использовать код для разбора JSON, и в случае ошибки формата приходилось повторять попытку.

Это не только медленно, но и дорого.

Jev, разработанный компанией TypeSafe AI, был специально создан для решения этих задач принятия решений.

Они называют Jev "моделью системы один (System One)": вводите неструктурированные данные, и он сразу же выдает строго типизированные варианты и точные вероятности.

Почему традиционные большие модели слишком тяжелы для принятия решений?

В типичном цикле агента (Agent) система должна принимать решения на каждом шаге:
python

while not done:
    action = llm(context)
    result = run_tool(action)
    context += result

В этом цикле модель должна выбирать инструменты, проверять результаты выполнения, оценивать риски и решать, завершена ли задача.

Даже если окончательное решение состоит всего из одного слова, например "финансы", традиционная генеративная модель будет выдавать токен за токеном.

Вы должны платить как за ввод, так и за время ожидания генерации.

Основная логика Jev очень проста:

Когда код уже знает все возможные ответы, использование генерации текста слово за словом является огромной тратой ресурсов.

Как работает Jev?

Суть Jev заключается в том, что это семантический движок принятия решений.

При вызове Jev вам нужно предоставить ему две вещи:

1. Состояние (State): текст или JSON, описывающий текущую ситуацию.

2. Вопросы (Questions): решения, которые вы хотите, чтобы он принял на основе этого состояния.

Каждый вопрос должен иметь фиксированный тип вывода до его отправки. Jev изначально поддерживает три базовых типа данных:

• Выбор (Choice): выберите один вариант из вашего списка и верните распределение вероятностей для всех вариантов.

• Оценка (Score): сопоставьте ввод с вашим определенным порядком уровней, например, низкий, средний, высокий.

• Нуль (Noul): булевое суждение, возвращающее вероятность истинности данного утверждения (десятичное число от 0 до 1).

Типичный запрос выглядит так:
json

{
  "model": "jev-latest",
  "state": "Дважды произошла ошибка развертывания, на стороне пользователя начали появляться многочисленные ошибки 500.",
  "questions": {
    "urgent": {
      "type": "noul",
      "instructions": "Нужно ли срочно решить эту проблему?"
    },
    "owner": {
      "type": "choice",
      "instructions": "Какой команде следует поручить эту проблему?",
      "criteria": {
        "engineering": "Неисправность продукта и сбой сервиса",
        "billing": "Проблемы с оплатой, счетами и возвратами",
        "sales": "Консультации по ценам и открытие новых клиентов"
      }
    }
  }
}

Jev возвращает не объяснение, а определенное значение вероятности и распределение вероятностей для команды.

Без лишних слов, он также не выдумывает четвертую несуществующую команду.

Бизнес-код напрямую управляет логическим контролем:
python

if urgent > 0.9 and owner == "engineering":
    page_on_call()
elif confidence < 0.6:
    send_to_human_review()
else:
    add_to_queue(owner)

Многие инженеры описывают это как "выражение switch с семантическим пониманием".

Бизнес-ветвь по-прежнему надежно контролируется традиционным кодом, Jev отвечает только за предоставление семантических суждений, которые код сам не может вычислить.

Основные показатели: в 200 раз быстрее, в 400 раз дешевле

Jev поддерживает параллельную оценку всех вопросов в одном запросе.

Это означает, что вам не нужно задавать вопросы последовательно, вы можете отправить все независимые суждения по одному и тому же содержимому за один раз.

Официальные данные о тестировании:

• Время задержки от конца до конца: от 70 до 500 миллисекунд.

• Цена: всего 0.042 доллара за миллион вводимых токенов, токены вывода совершенно бесплатны.

В официальных тестах по сравнению с несколькими рабочими процессами его общая скорость выполнения примерно в 200 раз выше, а общие затраты снизились почти в 400 раз.

Даже в сложной бизнес-среде, рассматривая эти данные как теоретический предел, достигнутое повышение эффективности также имеет порядковую величину.

Вероятность и уверенность — ключевые элементы дизайна

Просто дать одну категорию часто недостаточно безопасно.

Предположим, Jev определяет, что рабочий запрос относится к "финансовой команде", возвращая следующий результат:
json

{
  "choice": "billing",
  "probabilities": {
    "billing": 0.52,
    "technical": 0.46,
    "sales": 0.02
  },
  "confidence": 0.18
}

Финансовая команда получила наибольшее количество голосов, но техническая поддержка имеет вероятность 46%, а общая уверенность составляет только 0.18.

Если система автоматически распределит запрос, это может привести к ошибкам.

С этой вероятностной распределенностью разработчики могут четко обозначить границы в коде:

• Высокая уверенность: автоматически выполняйте логику с низким риском.

• Средняя уверенность: вызывайте более мощную большую модель для проверки или требуйте повторного подтверждения от пользователя.

• Низкая уверенность: сразу отправляйте в очередь на ручную проверку.

Jev использует метод обучения с подкреплением на основе калиброванных решений (RLCD). Когда модель дает вероятность 90%, ее реальная точность также может сильно колебаться около 90%.

Необходимо прояснить факт: действительно ли Jev не создает иллюзий?

В официальной рекламе упоминается, что "Jev не создает иллюзий". Это утверждение имеет очень строгие условия.

Jev никогда не вернет содержимое, выходящее за пределы заданного вами формата Schema. Если вы определили три варианта A, B и C, он абсолютно не вернет D и не выдаст испорченный JSON.

Но это вовсе не означает, что его суждения всегда верны.

Типобезопасность гарантирует, что структура вывода не сломается, но не гарантирует, что бизнес-решения не будут ошибочными.

Ошибочное суждение, соответствующее типовым определениям, все равно может привести к ошибочному возврату средств или неправильному распределению неисправного рабочего запроса.

Правильное понимание должно быть следующим: Jev гарантирует, что не нарушит контракт кода, но все равно может ошибочно выбрать вариант.

Где лучше всего разместить Jev в системе?

Позиционирование Jev очень четкое: он был разработан для работы в сочетании с большими моделями и не предназначен для их замены.

Большие модели отвечают за написание кода, разработку решений, создание длинных текстов и ведение коммуникации.

Jev отвечает за высокочастотный и быстрый контроль границ вокруг них.

На данный момент есть три наиболее зрелых сценария применения:

1. Маршрутизация моделей (Model Routing)

   При получении пользовательского запроса сначала Jev оценивает сложность задачи. Простые запросы на поиск и переработку сразу передаются дешевым малым моделям, а сложные архитектурные задачи маршрутизируются к дорогим моделям вывода.

2. Контроль рисков выполнения инструментов (Tool Risk Gating)

   Перед выполнением команд в терминале Jev определяет, является ли команда только для чтения, обратимой или разрушительной. Разрушительные операции автоматически приостанавливаются до получения разрешения от человека.

3. Проверка результатов и контроль (Verification)

   Перед завершением задачи Jev быстро проверяет: прошли ли тестовые случаи? Не застрял ли агент в цикле повторных вызовов? Соответствует ли вывод установленным правилам?

Когда абсолютно не следует использовать Jev?

Не вводите его в тех местах, где он не нужен:

• Когда пространство ответов неопределенно: если вы пишете статью, делаете резюме или генерируете код, необходимо использовать традиционные большие модели.

• Определенные логические операции: математические вычисления, подсчет символов, сравнение дат — реализуйте это с помощью чистого кода, чистый код всегда дешевле, быстрее и надежнее, чем модели.

• Когда требуется сложное длинное цепочечное рассуждение: многошаговые логические выводы должны быть переданы моделям рассуждений, обладающим способностью к цепочке мышления, или разбейте большую проблему на несколько дискретных мелких задач и передайте их Jev.

Как начать?

Не начинайте с рефакторинга основного бизнеса.

Самый надежный способ интеграции:

1. Выберите одно из правил регулярных выражений с наивысшими затратами на обслуживание и высокой вероятностью ошибок, или узел, который вызывает большую модель только для получения ответа «да» или «нет».

2. Четко определите все возможные варианты этого узла.

3. Включите режим Shadow (Теневой режим), чтобы Jev и существующая логика работали параллельно, собирая данные и калибруя порог доверия.

4. После подтверждения достижения необходимой точности, официально переключите трафик.

В настоящее время TypeSafe полностью открыл доступ, не нужно ждать в очереди. Регистрация дает 5 долларов США, что эквивалентно возможности протестировать около 120 миллионов токенов ввода.

В течение последних нескольких лет вся отрасль привыкла решать все проблемы с помощью генерации текста.

Но во многих инженерных системах коду часто требуется не больше красивых слов, а точное суждение с откликом на уровне миллисекунд, не нарушающее формат и с очень низкими затратами.

Это также является основной причиной, по которой Jev может быстро взорвать круг разработчиков.