Ещё один конкурент Jev: SubQ Snap обрабатывает 100K токенов примерно за секунду
Компания Subquadratic представила SubQ Snap, мультимодальную модель для принятия решений внутри AI-агентов. Контекстное окно составляет 384K токенов, в 12 раз больше, чем у Jev. По заявлению разработчиков, обработка запроса на 100K токенов и получение решения занимают примерно секунду.Это первый новый продукт компании после июньского анонса SubQ 1.1 Small
Почему при работе с AI важно формировать правильные привычки и как их не перепутать с неправильными
Восторг от того, сколько времени экономит AI, понятен. Я и сам, пару лет назад, во времена моего знакомства с ИИ ощущал себя волшебником, произнося магические заклинания: «ИИ, перескажи материал этого исследования, ИИ, сделай три главных вывода, ИИ, подготовь презентацию...» Однако, как известно, всякая магия имеет свою цену, и определяется она не только стоимостью подписки и токенов. В недавнем исследовании Boston Consulting Group (BCG) ситуация описывается как «требующая внимания»: половина опрошенных руководителей уже замечают, как
AI-агент сказал «готово». Как проверить, что он действительно сделал работу
Привет 👋Самая неприятная ошибка рабочего AI-агента — не странный ответ. Это убедительное «готово», после которого кто-то идёт проверять, переделывать и извиняться перед коллегами.Ассистенту, который предлагает формулировки, можно простить неудачный абзац. Агенту, который меняет рабочие данные, этого уже мало. Мне интереснее обсуждать его приёмку: что именно должно произойти, чтобы задачу можно было считать закрытой.
Как устроен агент: архитектура поверх LLM
Про архитектуру трансформеров написано уже немало, поэтому опишу работу LLM с прикладной точки зрения.КонтекстНа вход LLM подаётся блок текста, который называется контекстом. Размер контекста ограничен: когда всё начиналось, прорывом считались 32К, сейчас 1М — индустриальный стандарт.На основе этого текста LLM генерирует его продолжение. Современные модели выдают логически законченный фрагмент (на уровне модели он завершается специальным токеном <stop>).Контекст таким образом увеличивается: к нему можно дописать новый фрагмент — и всё повторяется заново.Вызов инструментов
«Давайте просто развернём свою LLM на 1Т параметров»: что пришлось построить вокруг неё в Битрикс24
Привет, Хабр! Меня зовут Сергей Нотевский, я AI Platform Lead в Битрикс24. Моя команда отвечает за модельки под капотом наших AI-сервисов.«Давайте просто развернём свою LLM на 1Т параметров» — с таким названием я выступал в июне на Saint HighLoad++. В статье пройдём тот же путь: от продукта с одним endpoint до платформы вокруг моделей.
Как экономить токены AI‑агентов при работе с кодовой базой: 5 универсальных паттернов
AI‑агенты всё глубже входят в обычный процесс разработки. Они уже не только генерируют отдельные функции, но и исследуют существующие проекты, ищут нужные файлы, анализируют архитектуру, запускают тесты и проверяют результат. Причём это касается практически любой разработки.И здесь на достаточно большой кодовой базе быстро появляется проблема: расход токенов начинает расти гораздо быстрее, чем объём написанного кода.
Агентный поиск на open-source моделях: кого нашёл, сколько потратил и где всё сломалось
У меня давно была одна идея: хочу сделать свой агентный поиск на открытых моделях и со своим контролем над источниками. Не чтобы сэкономить на подписке, а скорее понять: какой минимум (технологического стека) нужен, чтобы агент нашел конкретную информацию, с проверяемым источником и не выдумал ссылку?
Из ИТ в fashion и к ИИ-агентам: как я создал COSMOS
Я Никита Краснов, автор COSMOS. Я пришёл из ИТ в бизнес одежды, а затем через задачи этого бизнеса вернулся к разработке уже системы для работы с AI-агентами.Эта история началась с очень приземлённого требования: меньше тратить на обслуживание повторяющихся операций. Маркетплейсы заставили нас постоянно оптимизировать работу. Нужно было продавать одежду, разбираться с возвратами, сопоставлять отчёты, вести учёт и понимать, что происходит между этими этапами. Каждая ручная передача данных добавляла работу.

