- BrainTools - https://www.braintools.ru -

Бывший разработчик ChatGPT представил очень быструю ИИ-модель для задач классификации

Человеческий язык удобен для разговора с пользователем, но внутри приложения за эту универсальность приходится платить временем. Когда одна LLM передаёт результат другой модели, ответ всё равно генерируется токен за токеном. Для классификации заявки, оценки риска или выбора следующего инструмента развёрнутый текст вообще не нужен.

Диого Алмейда, бывший исследователь OpenAI и соавтор InstructGPT [1], вместе с командой TypeSafe представил Jev [2], первую публичную модель семейства System One.

Бывший разработчик ChatGPT представил очень быструю ИИ-модель для задач классификации - 1

Разработчик передаёт контекст и вопросы с допустимыми ответами, а Jev параллельно возвращает выбранные варианты, оценки и распределения вероятностей. Обычные LLM уже умеют выдавать структурированные ответы по JSON Schema [3], но Jev получает результат без последовательной генерации текста.

По опубликованным тестам TypeSafe [4], на таких задачах Jev близка к GPT-5.6 Luna и Terra, хотя более сильные Sol и Opus 5 показывают лучший результат. Например, среднее совпадение с эталоном у Jev составляет 67,8%, у Terra 67,9%, а время выполнения сценария: 0,4 и 10,1 секунды соответственно.

Бывший разработчик ChatGPT представил очень быструю ИИ-модель для задач классификации - 2

TypeSafe берёт $0,042 за миллион входных токенов и ровно $0 за выход. Для сравнения ниже бюджетная GPT-5 nano, младшая модель семейства GPT-5.6, флагман GPT-6 Astra и дешёвая китайская Qwen Flash.

Модель

Вход, $ за 1 млн токенов

Выход, $ за 1 млн токенов

Jev

0,042

0

GPT-5 nano

0,05

0,40

GPT-5.6 Luna

0,20

1,20

GPT-6 Astra

10

50

Qwen Flash

0,022

0,216

Когда задача понятна, а допустимые действия и формат результата заданы заранее, скорость и стоимость уже впечатляют.

В демо с игрой в Doom [2] бот на Jev работает примерно с 10 запросами к модели в секунду за $7 в час, получая структурированное состояние игры.

В другом демо модель прокладывает путь между страницами Wikipedia, выбирая переходы среди сотен и тысяч ссылок.

Такой подход может пригодиться агентам, которые через MCP управляют Blender, DaVinci Resolve и другим софтом. Когда инструменты и допустимые действия уже описаны, часть задач сводится к быстрому выбору следующего шага. Если подобные модели встроить в эти сценарии, паузы между командами могут заметно сократиться: простое нажатие кнопки не должно каждый раз требовать долгих рассуждений.


Если новость понравилась, приглашаю в канал AI for Devs [5]. Каждый день публикую похожие материалы: новые модели, агенты, практические кейсы и новости из мира AI.

Автор: python_leader

Источник [6]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/35579

URLs in this post:

[1] соавтор InstructGPT: https://arxiv.org/abs/2203.02155

[2] представил Jev: https://typesafe.ai/blog/introducing-system-one-models-and-jev

[3] структурированные ответы по JSON Schema: https://platform.claude.com/docs/en/build-with-claude/structured-outputs

[4] опубликованным тестам TypeSafe: https://evals.typesafe.ai/

[5] AI for Devs: https://t.me/+QBzA_NUKgRRiY2Vi

[6] Источник: https://habr.com/ru/news/1082914/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1082914

www.BrainTools.ru

Rambler's Top100