Какие слои что знают: сравниваем RWKV-7 и трансформеры послойными пробами
Где языковая модель хранит порядок слов, грамматику и смысл — и зависит ли это от архитектуры? Я обучил 12 небольших моделей, которые отличаются только архитектурой, и проверил линейными пробами каждый слой каждого чекпоинта. Короткий вывод: на этом масштабе заметнее всего различается то, как хранится позиция токена, а для синтаксиса и смысла модели при равном loss выглядят похоже.Сравнивал RWKV-7, трансформер с RoPE и трансформер без позиционного кодирования (NoPE)
Unitree Go2: получаем root, исправляем Wi-Fi и добавляем русские голосовые команды
В нашей Unitree Go2 был штатный голосовой помощник BenBen. По-русски он с нами не разговаривал, а собака не понимала русские команды. Хотелось сказать «сидеть», «лежать» или «дай лапу» прямо роботу, без телефона в роли переводчика.Начали разбираться с голосом. По дороге получили root основного компьютера, исправили срывы подключения к Wi-Fi и обнаружили программные команды, для которых не нашли кнопок в используемом приложении: от обычных поз до сальто. Затем собрали собственный голосовой мост и научили Go2 подходить и следовать за человеком с UWB-пультом. Всё это работает на борту.
Silero TTS v5 теперь умеет и в эмфазы, и в вопросы и восклицания
Да, я знаю, что этот жест на самом деле в Италии особо не используется и значит другое, но мем сам себя не сделает
Писать агенту по-английски ради экономии? 40 прогонов: разница 12 токенов на задачу
В чатах про кодинг-агентов регулярно всплывает совет: пишите промпты по-английски, русский съедает в полтора раза больше токенов. Я сам так делал первые пару месяцев. Потом стало интересно, сколько я на этом сэкономил. Сел и посчитал.Сначала токенизаторВзял абзац на русском и его английский перевод, отправил в API и посмотрел, сколько входных токенов насчитала модель. У Opus 5.5 и Sonnet 5.5 токенизатор общий, цифры совпали:по-русски 194 токена (470 символов);по-английски 132 токена (454 символа).В 1,47 раза. Совет не врёт.
Русский текст в Claude Opus 5 стоит в 3,9 раза дороже, чем в GPT-5.5, при одинаковой цене за токен
Цены на API языковых моделей публикуют за миллион токенов, и по этой цифре модели обычно сравнивают. Но «токен» у каждой модели свой. Я прогнал один и тот же русский текст через Claude Opus 5 и GPT-5.5: Opus 5 насчитал в нём в 3,9 раза больше токенов. Значит, при одинаковой цене за токен обработка русского текста на Opus 5 обойдётся почти вчетверо дороже, чем на GPT-5.5, — и это не зависит от того, у кого вы покупаете доступ.
Большой релиз библиотеки ударений в silero‑stress для русского языка
Омографы не пройдут (а не то, что вы подумали)Мы писали на Хабре про нашу быструю и качественную библиотеку для простановки ударений и разрешения омографов на русском языке. Потом к ней
Чем тестер отличается от тестолога
На всякий случай, если вы не знали, 30-го апреля 2025-го года Правительство утвердило нормативные словари, фиксирующие нормы современного русского литературного языка при его использовании в качестве государственного.Распоряжением номер 1102-р словари опубликованы на сайте института Русского языка.Итак, что это за словари?Орфографический словарь русского языка как государственного языка Российской Федерации (как писать)
Наш синтез для экранных читалок (SAPI5) для 20 языков России стал лучше
Ультанул башем в 2012 годуМы не так давно опубликовали SAPI5-обёртку для нашего синтеза
___, или «Заголовок намеренно оставлен пустым»
Статья 3 из цикла «Слова, которых нет»Начало здесь >>> и здесь >>>Возвращаюсь к случаю, с которого этот цикл начался.

