Перейти до вмісту
Дзвінок 15 хвилинTelegram

AI та ML

Jev від TypeSafe AI: як System One змінює автоматизацію

Jev — перша публічна «System One» модель від TypeSafe AI: замість тексту вона повертає типізовані, калібровані рішення за 70–500 мс. Розбираємо архітектуру, примітиви Choice, Score і Noul та реальні сценарії.

Опубліковано
21 вересня 2026 р.
Оновлено
21 вересня 2026 р.
Автор
Віталій Шинкаренко
⏱
5 хв

Коротка відповідь: Jev — це не чат-бот, а «функція виклику» з фронтирним інтелектом. Вона приймає неструктурований стан і повертає типізовані ймовірнісні рішення, які софт може використовувати без парсингу та валідації.

Головне

  • Jev повертає типізовані ймовірнісні рішення замість тексту — відповідність схемі гарантована
  • Паралельний семплер і навчання RLCD дають 70–500 мс та калібровану впевненість
  • Три примітиви — Choice, Score, Noul — можна ставити разом в одному запиті
  • $42 за мільярд вхідних токенів, вихідні токени безкоштовні

Вступ: за межами парадигми чат-бота

Перехід від «розмов» до «дій» давно є головним вузьким місцем в автоматизації на основі ШІ. Великі мовні моделі (LLM) досягли надлюдського рівня в діалозі, але їхня архітектура, оптимізована під зрозумілу людині прозу, погано підходить для суворих структурованих вимог продакшн-софту.

Діогу Алмейда, співзасновник TypeSafe AI, чиї дослідження в OpenAI заклали основу для ChatGPT, побачив цю прогалину: послідовні моделі генерації тексту не мають швидкості й надійності, потрібних для автономного ухвалення рішень. Відповідь TypeSafe — Jev, перша публічна «System One Model». Вона описана в маніфесті TypeSafe (відкривається в новій вкладці) та в офіційному блозі запуску (відкривається в новій вкладці).

Архітектура рішення: System One проти System Two

Назва відсилає до книги Деніела Канемана «Мислення швидке й повільне», де людське мислення поділено на System 1 (швидке, інтуїтивне, автоматичне) та System 2 (повільне, обдумане, логічне). Jev — радикальний відхід від «System 2»-подібних міркувань LLM, і тримається він на двох інноваціях.

Паралельне семплування. Традиційні LLM генерують по одному токену в авторегресивному циклі — це повільно й ресурсоємно. Jev використовує Parallel Sampler, який генерує всі виходи одним запитом. Це дозволяє одночасно ставити кілька незалежних питань про один стан без затримок, типових для послідовної генерації.

RLCD (Reinforcement Learning for Calibrated Decisions). Більшість LLM налаштовують через RLHF, щоб вони видавали приємний людям текст. Jev навчено через RLCD, який ставить у пріоритет «епістемічно чесні» ймовірності. Це калібрування: впевненість моделі (наприклад, 0,8) є прямим показником статистичної ймовірності правильної відповіді.

Технічні характеристики та бенчмарки

Jev оптимізований під профіль інтелекту «комунального масштабу», який поточні фронтирні моделі не можуть відтворити в задачах ухвалення рішень великого обсягу. Порівняння з існуючими LLM:

Порівняння Jev з існуючими LLM
ПараметрІснуючі LLMSystem One (Jev)
ОптимізаціяRLHF / RLVR (людські вподобання)RLCD (калібровані рішення)
Вихідрядки й авторегресивний тексттипобезпечні структуровані значення
Семплуванняпослідовне (токен за токеном)паралельне (один запит)
Надійністьризик галюцинацій, потрібен парсинггарантована відповідність схемі, нуль помилок типів

За даними Workflow Evals (відкривається в новій вкладці), у складних автоматизованих воркфлоу Jev у 193,6 раза швидший і в 444,6 раза економніший за фронтирні моделі на кшталт GPT-6 Astra чи Fable 5.1. Самі автори називають ці цифри верхньою межею реальних результатів; для порівнянного інтелекту вони наводять типове прискорення в 40–200 разів.

64k
вхідних токенів
контекстне вікно
70–500 мс
затримка
до 200× швидше за традиційні фронтирні моделі
$0,042
за 1 млн токенів входу
$42 за мільярд токенів
$0
вихідні токени
«too cheap to meter»

Функціональні примітиви: Choice, Score і Noul

Jev взаємодіє з софтом через три типи «питань». Паралельний семплер фізично обмежений наперед заданою схемою, тому модель математично не може видати помилку типу чи вигадати значення, що не вписується в структуру. Перед питаннями розробник описує State — це може бути сирий текст, структуровані дані або повідомлення LangChain.

Інфографіка: одне повідомлення про збій деплою оцінюють три типи питань Jev — Вибір (інфраструктура 0,86), Оцінка (2,60) і Ноул (ймовірність терміновості 0,990). Значення ілюстративні.

Choice

Вибір із наперед заданого набору варіантів. Повертає ймовірність для кожного варіанта та загальну впевненість. Jev підтримує до 255 варіантів. Для задач із вищою кардинальністю використовується двоетапна система: спершу незалежне оцінювання, потім явний вибір — так зберігається точність. Приклад: сортування листів за категоріями Work, Marketing, Finance, Security.

Score

Оцінка вхідних даних за впорядкованими рівнями (наприклад, Low, Medium, High, Critical). На відміну від дискретної класифікації, повертає неперервні розподіли та значення за шкалою, заданою розробником, — це дає тонке ранжування за важливістю чи терміновістю. Приклад: терміновість звернення в підтримку або якість ліда.

Noul

Ймовірнісна відповідь «так/ні» на конкретне твердження (наприклад, «Це фішинг?»). Повертає пряму ймовірність від 0,0 до 1,0 (наприклад, 0,999), що твердження правдиве. Приклад: чи є лист шахрайським, чи небезпечна запропонована системна команда.

Кілька питань Choice, Score і Noul можна передати в одному API-запиті над одним станом. Jev обробляє їх паралельно, майже без додаткової затримки, а за додаткові питання платиш лише мінімальні вхідні токени.

Для кого Jev — і для кого ні

Використовуйте Jev для

  • «Розумні if-умови»: класифікація, маршрутизація тікетів, скоринг лідів і розгалуження бізнес-логіки в коді
  • Застосунки реального часу, де UX залежить від мінімальної затримки (70–500 мс)
  • Запобіжники (guardrails): миттєва оцінка безпеки промпту чи виклику інструмента, перш ніж агент діятиме
  • Автономні агенти та боти: браузерні агенти, ігрові боти, алгоритмічні торгові сигнали

Залишайтеся на звичайній LLM для

  • Вільний текст: чат-боти, копірайтинг, написання коду
  • Робота з людиною в контурі: копілоти й діалогові асистенти
  • Міркування «вголос» крок за кроком (chain-of-thought)

Чим Jev відрізняється від класифікаторів і звичайних LLM

Порівняно з класичним ML (BERT, scikit-learn). Класичним класифікаторам потрібен розмічений датасет і навчання під кожну задачу. Jev читає контекст природною мовою до 64k токенів із фронтирним розумінням, тож ви описуєте питання, а не тренуєте модель.

Порівняно зі structured output у GPT чи Claude. Звичайна LLM пише відповідь токен за токеном — разом із JSON, — тому витрачає повільні платні вихідні токени й усе одно може зламати формат чи вигадати параметр. Jev узагалі не генерує рядків: паралельний семплер одразу обчислює ймовірності для всіх заздалегідь заданих питань, і відповідь завжди відповідає схемі.

Що таке калібрування на практиці. Якщо Jev видає впевненість 0,8, він має бути правий приблизно у 80 випадках зі 100 схожих, тоді як звичайні LLM часто переоцінюють себе. Щоб перевірити це на своїх даних, проженіть Jev по розміченій вибірці й порівняйте його впевненість із реальною точністю.

Альтернативи, які варто розглянути

  • Класичні ML-моделі

    BERT, RoBERTa, FastText, scikit-learn — дешеві в роботі, але потребують збору даних і навчання під кожну задачу.

  • Structured outputs і function calling

    Звичайна LLM від OpenAI чи Anthropic, обмежена JSON-схемою. Гнучко, але повільніше й оплата за вихідні токени.

  • Малі LLM з промптом

    Легкі моделі на кшталт Llama 3 8B, яким у промпті задано класифікацію: дешевше за фронтирні, але все одно генерують текст токен за токеном.

Чого Jev не вміє

Jev міняє генерацію тексту на швидкість і надійність. Звідси очевидні наслідки:

  • Не генерує текст. Він не напише навіть одного речення чи відповіді в чаті.
  • Немає chain-of-thought. Покрокових міркувань, які можна прочитати, не буде.
  • Не виконує інструменти. Він може оцінити, чи безпечний виклик інструмента, але сам виклик не робить.

Реальні застосування та прототипування

Швидкий і дешевий інтелект Jev відкриває сценарії, які раніше були економічно чи технічно недосяжними.

Корпоративні воркфлоу. Jev чудово справляється з масовим тріажем: у демонстраціях він обробляє від 500 до 1700 листів за секунди за копійки. Агенції використовують його для миттєвого скорингу лідів і маршрутизації вхідних запитів за якістю.

Агентна інфраструктура. Jev працює як «регулювальник» маршрутизації моделей, обираючи найдешевшу модель (наприклад, «Nano» для простих запитів). В «Auto Mode» він виступає запобіжником — виявляє ризиковані bash-команди чи виклики інструментів до того, як автономний агент їх виконає.

  • Бот для Doom

    реактивний агент ухвалює 10 рішень на секунду за станом гри

  • Wikiracing

    навігація Вікіпедією з аналізом сотень посилань на кроці без галюцинацій

  • Автоматизація браузера

    наскрізні задачі, як-от бронювання рейсу Цюрих — Лондон, за 7 секунд

  • Фінансові сервіси

    живі торгові сигнали для Bitcoin чи акцій — рішення buy/hold/sell на основі потоків даних із оцінкою впевненості

Інтеграція для розробників та екосистема

Jev створений, щоб вписуватися в сучасний AI-стек як детермінований компонент. Пакет langchain-typesafe надає TypeSafeClassifier — його зручно використовувати в агентних циклах для швидких рішень, залишаючи повільні й дорогі LLM для фінальної генерації тексту. У прикладі класифікатор отримує стан «Деплой упав двічі, клієнти бачать 500-ті помилки, хтось може глянути зараз?» і питання Noul «Чи потребує це уваги просто зараз?», а ймовірність терміновості читається напряму з response.nouls["urgent"].noul.

Альтернативний доступ — через Vercel AI Gateway (відкривається в новій вкладці) зі стандартним API-ключем, що спрощує інтеграцію у веб-застосунки. Для глибших гайдів є офіційна документація (відкривається в новій вкладці) та API Console (відкривається в новій вкладці).

python
from langchain_typesafe import Noul, TypeSafeClassifier

# Initialize the classifier
classifier = TypeSafeClassifier()

# Invoke with a state and specific questions
response = classifier.invoke(
    state="The deploy failed twice and customers are seeing 500s. Can someone look now?",
    questions={
        "urgent": Noul(instructions="Does this need attention right now?")
    },
)

# Access calibrated probability directly
urgency_score = response.nouls["urgent"].noul
Приклад: Noul-питання про терміновість повідомлення через langchain-typesafe

Швидкий старт

  1. Отримайте API-ключ

    Створіть його в API Console (відкривається в новій вкладці) або скористайтеся Jev через Vercel AI Gateway (відкривається в новій вкладці) зі стандартним ключем. Збережіть його в змінній середовища TYPESAFE_API_KEY.

  2. Встановіть інтеграцію

    Для Python виконайте pip install langchain-typesafe. У пакеті є TypeSafeClassifier, а також ModelRouterMiddleware і AutoModeMiddleware для маршрутизації моделей і запобіжників.

  3. Опишіть стан

    Передайте сирий текст, структуровані дані або повідомлення LangChain.

  4. Поставте питання

    Для кожного питання оберіть Choice, Score або Noul — усе в одному запиті.

  5. Прочитайте ймовірності

    Використовуйте типізований результат прямо в коді, наприклад response.nouls["urgent"].noul.

Що перевірити, перш ніж впроваджувати: контекст 64k вхідних токенів, до 255 варіантів у питанні Choice, а сервіс наразі базується на західному узбережжі США. У публічних матеріалах немає деталей про корпоративні SLA, регіони GDPR і локацію зберігання даних — уточніть їх безпосередньо в TypeSafe.

Висновок: парадокс Джевонса та майбутнє інтелекту

Модель названо на честь Вільяма Стенлі Джевонса, економіста, який помітив: що ефективніше використовується ресурс (як-от вугілля), то більше його споживають. TypeSafe AI вважає, що здешевлення «System One»-інтелекту на кілька порядків призведе до масового проникнення ШІ в кожен шар софту.

Давши софту типобезпечний інтерфейс, на який можна покластися, Jev перетворює ШІ з ненадійного співрозмовника на надійний, невидимий двигун глобальної автоматизації. Інтелект більше не вузьке місце — це інтерфейс.

Часті питання

Чи є Jev LLM?

Ні. Jev розуміє природну мову, як LLM, але не генерує текст токен за токеном. Він повертає лише структуровані рішення з каліброваними ймовірностями.

Що означає System One?

Назва походить від книги Даніела Канемана «Мислення швидке й повільне»: System 1 — це швидке інтуїтивне ухвалення рішень на відміну від повільних обдуманих міркувань System 2.

Скільки коштує Jev?

Вхідні токени коштують $0,042 за мільйон ($42 за мільярд). Вихідні токени безкоштовні. Повні тарифи дивіться в [API Console](https://console.typesafe.ai/).

Чи може Jev галюцинувати?

Він не може вигадати типи даних, структуру JSON чи текст, бо відповіді обмежені вашою схемою. Як і будь-яка модель, він може помилитися в значенні — саме для цього існує калібрована впевненість.

Як підключити Jev через LangChain чи Vercel?

У LangChain використовуйте пакет langchain-typesafe та клас TypeSafeClassifier. На Vercel модель доступна через [Vercel AI Gateway](https://vercel.com/ai-gateway) зі стандартним API-ключем.

Обговорити AI-автоматизацію для вашого продукту

01 — Новини

Схожі новини

02 — Контакти

Розкажіть, що вам потрібно

Відповімо з пропозицією.

Зручніше поговорити?

Записатися на дзвінок 15 хвилинНаписати в Telegram

Або напишіть на [email protected]