Jev от TypeSafe AI: как System One меняет автоматизацию

Коротко: Jev — это не чат-бот, а «функция вызова» с фронтирным интеллектом. Она принимает неструктурированное состояние и возвращает типизированные вероятностные решения, которые софт может использовать без парсинга и валидации.

Переход от «разговоров» к «действиям» давно остаётся главным узким местом в автоматизации на основе ИИ. Большие языковые модели (LLM) достигли сверхчеловеческого уровня в диалоге, но их архитектура, оптимизированная под понятную людям прозу, плохо подходит для строгих структурированных требований продакшн-софта.

Диогу Алмейда, сооснователь TypeSafe AI, чьи исследования в OpenAI заложили основу для ChatGPT, увидел этот пробел: последовательные модели генерации текста не обладают скоростью и надёжностью, необходимыми для автономного принятия решений. Ответ TypeSafe — Jev, первая публичная «System One Model». Она описана в манифесте TypeSafe (откроется в новой вкладке) и в официальном блоге запуска (откроется в новой вкладке).

Название отсылает к книге Даниэля Канемана «Думай медленно… решай быстро», где человеческое мышление делится на System 1 (быстрое, интуитивное, автоматическое) и System 2 (медленное, обдуманное, логическое). Jev — радикальный отход от «System 2»-подобных рассуждений LLM, и держится он на двух инновациях.

Параллельное сэмплирование. Традиционные LLM генерируют по одному токену в авторегрессивном цикле — это медленно и ресурсоёмко. Jev использует Parallel Sampler, который генерирует все выходы одним запросом. Это позволяет одновременно задавать несколько независимых вопросов об одном состоянии без задержек, типичных для последовательной генерации.

RLCD (Reinforcement Learning for Calibrated Decisions). Большинство LLM настраивают через RLHF, чтобы они выдавали приятный людям текст. Jev обучен через RLCD, который приоритизирует «эпистемически честные» вероятности. Это калибровка: уверенность модели (например, 0,8) — прямой показатель статистической вероятности правильного ответа.

Jev оптимизирован под профиль интеллекта «коммунального масштаба», который текущие фронтирные модели не могут воспроизвести в задачах принятия решений большого объёма. Сравнение с существующими LLM:

По данным Workflow Evals (откроется в новой вкладке), в сложных автоматизированных воркфлоу Jev в 193,6 раза быстрее и в 444,6 раза экономичнее фронтирных моделей вроде GPT-6 Astra или Fable 5.1. Сами авторы называют эти цифры верхней границей реальных результатов; для сопоставимого интеллекта они приводят типичное ускорение в 40–200 раз.

Jev взаимодействует с софтом через три типа «вопросов». Параллельный сэмплер физически ограничен заранее заданной схемой, поэтому модель математически не может выдать ошибку типа или придумать значение, не подходящее под структуру. Перед вопросами разработчик описывает State — это может быть сырой текст, структурированные данные или сообщения LangChain.

Выбор из заранее заданного набора вариантов. Возвращает вероятность для каждого варианта и общую уверенность. Jev поддерживает до 255 вариантов. Для задач с большей кардинальностью используется двухэтапная система: сначала независимая оценка, затем явный выбор — так сохраняется точность. Пример: сортировка писем по категориям Work, Marketing, Finance, Security.

Оценка входных данных по упорядоченным уровням (например, Low, Medium, High, Critical). В отличие от дискретной классификации, возвращает непрерывные распределения и значения по шкале, заданной разработчиком, — это даёт тонкое ранжирование по важности или срочности. Пример: срочность обращения в поддержку или качество лида.

Вероятностный ответ «да/нет» на конкретное утверждение (например, «Это фишинг?»). Возвращает прямую вероятность от 0,0 до 1,0 (например, 0,999), что утверждение истинно. Пример: является ли письмо мошенническим, опасна ли предложенная системная команда.

По сравнению с классическим ML (BERT, scikit-learn). Классическим классификаторам нужен размеченный датасет и обучение под каждую задачу. Jev читает контекст на естественном языке до 64k токенов с фронтирным пониманием, поэтому вы описываете вопрос, а не обучаете модель.

По сравнению со structured output у GPT или Claude. Обычная LLM пишет ответ токен за токеном — вместе с JSON, — поэтому тратит медленные платные выходные токены и всё равно может сломать формат или выдумать параметр. Jev вообще не генерирует строк: параллельный сэмплер сразу вычисляет вероятности для всех заранее заданных вопросов, и ответ всегда соответствует схеме.

Что такое калибровка на практике. Если Jev выдаёт уверенность 0,8, он должен быть прав примерно в 80 случаях из 100 похожих, тогда как обычные LLM часто переоценивают себя. Чтобы проверить это на своих данных, прогоните Jev по размеченной выборке и сравните его уверенность с реальной точностью.

Jev меняет генерацию текста на скорость и надёжность. Отсюда очевидные последствия:

• Не генерирует текст. Он не напишет даже одного предложения или ответа в чате.
• Нет chain-of-thought. Пошаговых рассуждений, которые можно прочитать, не будет.
• Не выполняет инструменты. Он может оценить, безопасен ли вызов инструмента, но сам вызов не делает.

Быстрый и дешёвый интеллект Jev открывает сценарии, которые раньше были экономически или технически недостижимы.

Корпоративные воркфлоу. Jev отлично справляется с массовым триажем: в демонстрациях он обрабатывает от 500 до 1700 писем за секунды за копейки. Агентства используют его для мгновенного скоринга лидов и маршрутизации входящих запросов по качеству.

Агентная инфраструктура. Jev работает как «регулировщик» маршрутизации моделей, выбирая самую дешёвую модель (например, «Nano» для простых запросов). В «Auto Mode» он выступает предохранителем — выявляет рискованные bash-команды или вызовы инструментов до того, как автономный агент их выполнит.

Jev создан, чтобы вписываться в современный AI-стек как детерминированный компонент. Пакет langchain-typesafe предоставляет TypeSafeClassifier — его удобно использовать в агентных циклах для быстрых решений, оставляя медленные и дорогие LLM для финальной генерации текста. В примере классификатор получает состояние «Деплой упал дважды, клиенты видят 500-е ошибки, кто-нибудь может посмотреть сейчас?» и вопрос Noul «Требует ли это внимания прямо сейчас?», а калиброванная вероятность срочности читается напрямую из response.nouls["urgent"].noul.

Альтернативный доступ — через Vercel AI Gateway (откроется в новой вкладке) со стандартным API-ключом, что упрощает интеграцию в веб-приложения. Для более глубоких руководств есть официальная документация (откроется в новой вкладке) и API Console (откроется в новой вкладке).

Модель названа в честь Уильяма Стэнли Джевонса, экономиста, заметившего: чем эффективнее используется ресурс (например, уголь), тем больше его потребляют. TypeSafe AI считает, что удешевление «System One»-интеллекта на несколько порядков приведёт к массовому проникновению ИИ в каждый слой софта.

Предоставив типобезопасный интерфейс, на который можно положиться, Jev превращает ИИ из ненадёжного собеседника в надёжный, невидимый двигатель глобальной автоматизации. Интеллект больше не узкое место — это интерфейс.