Мой агент получил высокий балл. Проверяю, что он сделал
Как проверить, что диалоговый агент выполнил задачу, если бенчмарк поставил высокий балл? В первой пробе мой агент получил награду 1 на всех пяти задачах. Потом заглушка без единого вызова инструмента набрала 34% на полном наборе.Я разрабатываю собственную экспериментальную систему и называю её ELM. В её диалоговом варианте код предлагает действия, нейросеть выбирает из них, а код исполняет вызов и собирает ответ. В проверяемом здесь режиме нейросеть не пишет текст ответа.
Проверяю выбор функций и значения аргументов в ELM
Если вы подключаете к чату настоящие инструменты, нужно проверить два случая: когда вызов следует выполнить и когда ни один инструмент не подходит. Я сравнил два способа: модель сама пишет вызов или выбирает функцию и аргументы из готовых вариантов.Второй способ я исследую в собственной экспериментальной системе ELM — так я называю свой проект. Код предлагает варианты, нейросеть выбирает из них, а код собирает вызов. В проверяемом здесь режиме нейросеть не генерирует текст вызова.
Gemini 4 Argon: 10 вирусных примеров народного творчества в новой модели Google
Google открыл Gemini 4 Argon для разработчиков и подписчиков 13 октября 2026 года. Что с моделью уже показывают, видно по вирусному треду: в 10 примерах она пишет код для игр и 3D-сцен.
Вышла Gemini 4 Argon: разбираем бенчмарки и карточку модели
Gemini 4 Argon. Изображение: Google.
Зачем мы жжём сутки машинного времени, если лидерборд уже есть
У нас внутри периметра работают открытые модели на ИИ-песочнице: свои видеокарты, свои сервисы, данные наружу не уходят. Регулярно появляется что-то новое, и надо решить, ставить это в контур или нет.Первое, что приходит в голову: открыть публичный лидерборд и посмотреть, у кого цифра выше. Мы так и попробовали. Не сработало, и в этой статье я расскажу почему, а заодно что мы намерили за полгода собственных прогонов.Почему чужие цифры не подошлиПричин набралось четыре, и все они выяснились не сразу.Наших моделей там почти нет.
Чат, который ничего не сочиняет: 43 гипотезы, четыре ошибки замера и одна честная стена
Препринт этой работы пока не опубликован на arXiv: для подачи мне нужен endorsement в категории cs.CL (Computation and Language). Если у вас есть право выдавать endorsement в этой категории и вы готовы помочь, буду благодарен — напишите мне в личные сообщения на Хабре.Код, файлы результатов, meta прогонов и реестр гипотез целиком, включая отрицательные: https://github.com/ADanMan/elm-research. Репозиторий пока приватный. Планирую открыть исходники после публикации статей.
Выбирать цитаты в ELM и находить ошибки поиска
Если вы делаете поиск по документам, можно ли отвечать только словами из источника и отказываться, когда ответа нет? В ELM я проверил этот способ без дообучения. При заданном абзаце выбор цитаты дал близкий к генерации общий счёт на моей выборке. Если абзац надо найти, результат зависит от поиска и последующего выбора строки судьёй.Отделить поиск от формулирования ответа
Ответ цитатой вместо генерации: проверяю поиск по документам
Если вы делаете поиск по документам, можно ли отвечать только словами из источника и отказываться, когда ответа нет? Я решил проверить, насколько далеко можно зайти с таким ограничением.Для этих экспериментов я разрабатываю собственную систему и называю её ELM. Это рабочее название моего проекта. Его основная идея: код предлагает варианты, нейросеть выбирает и проверяет их, а код собирает результат. В этой статье результатом служит цитата из документа либо отказ, если подходящий ответ не найден.
Полтора месяца ускорял MoE на GTX 1660 SUPER: выиграл штатный флаг llama.cpp
Я тепломеханик, начальник отдела в проектной организации, не программист. С августа ковыряю форк llama.cpp: хочу, чтобы большие MoE‑модели нормально шли на обычном домашнем ящике, где видеокарта на 6 ГБ, 24 ГБ памяти и SATA‑диск. Полигоном была gpt‑oss-20b. Итог пока обидный: выиграл штатный флаг ‑fit, на длинном запросе он в 2,44 раза быстрее привычного ‑ngl 99, а мои ускорения поверх него не дали ничего. Зато по дороге я собрал неплохую коллекцию способов, которыми замер скорости врет, и пару настроек, которые пригодятся любому владельцу небольшой видеокарты.
