System One.

decision-cascade месяц спустя: от порога уверенности к экономике решения

В прошлый раз я писал о том, что decision-cascade

продолжить чтение

Собираем свой аналог Jev на бесплатном GPU в Colab

продолжить чтение

Что такое JEV и зачем он нужен: собираем AI‑агента на связке LLM + open‑source аналог JEV

Автор: Алексей Яковенко, опытный python‑разработчик с многолетним стажем.Со времени моей последней статьи в мире ИИ успел появиться очередной «убийца всех LLM» и чуть ли не будущее всей AI‑индустрии — JEV. По крайней мере, именно так его сейчас местами преподносят.Сегодня предлагаю познакомиться с этим зверем поближе. Разберёмся, что из себя представляет JEV, почему вокруг него столько шума, как он работает и чем отличается от привычных нам языковых моделей. Заодно посмотрим, какие у него уже появились open‑source аналоги.

продолжить чтение

Jev 1.14: ищем объекты, проверяем документы и находим кошку среди 96 фотографий

В предыдущей статье я проверял Jev на текстовых задачах: классификации, уверенности ответов, длинном контексте и грязном входе. 14 октября TypeSafe анонсировала Jev 1.14 и открыла экспериментальные возможности: изображения, новый тип вопроса box и расширенный контекст. Захотелось посмотреть, что с их помощью можно сделать на практике и где возникают ошибки.

продолжить чтение

Decision-модели изнутри: как устроены Jev, Clef, pplx-decider, Strands Decider, Laya и GLiDE

15 сентября TypeSafe выпустила Jev и назвала её первой моделью класса System One. Jev получает состояние системы и набор типизированных вопросов, а возвращает распределение вероятностей по допустимым ответам. Весь ответ считается за один прямой проход, без генерации токенов.За 16 дней вышли ещё пять реализаций той же идеи: Clef и Clef-flash от Cloudflare, pplx-decider-v1-27b от Perplexity, Strands Decider 2B от AWS, Laya от Convai Innovations и GLiDE от Fastino. Интерфейс у них почти общий, а внутри пять разных решений: замороженная LLM с обучаемым выходным слоем, LLM с заменённой LM head, pointer-механизм, энкодер на 322 млн параметров и рассуждение, которое включается по требованию.

продолжить чтение