токены. - страница 6

Новая система оплаты на основе токенов в Github Copilot вызвала негодование среди разработчиков

Github Copilot от Microsoft переходит с фиксированной абонентской платы на систему оплаты токенами, что потенциально может привести к значительному увеличению расходов пользователей. Это изменение вызвало возмущение среди разработчиков.

продолжить чтение

Американская компания потратила $500 млн на токены для Claude за месяц, так как не установила лимиты для сотрудников

Неназванная американская компания за месяц потратила $500 млн на токены для Claude от Anthropic, поскольку не установила лимиты для сотрудников, пишет Axios со ссылкой на консультанта по искусственному интеллекту.  

продолжить чтение

Создание MCP‑серверов на FastMCP: 7 ошибок, которых стоит избегать

В этой статье рассмотрим 7 распространенных ошибок, которые разработчики допускают при создании MCP‑серверов на FastMCP: от отсутствующих аннотаций инструментов и слабой обработки ошибок до ответов, расходующих слишком много токенов, и пробелов в безопасности. Поговорим о конкретных способах исправления каждой ошибки.

продолжить чтение

Короткий промпт ≠ дешёвый промпт: как оптимизация ломает prefix cache в LLM-агентах

Привет, Хабр! Меня зовут Сергей Нотевский, я AI Platform Lead в Битрикс24.Это третья статья серии про prefix caching: первая - про экономику кэширования и особенности разных провайдеров, вторая - про антипаттерны в простых сценариях. А здесь про то, как та же механика работает против вас в агентном цикле.TL;DRЕсли на каждом шаге менять tools, system prompt или ранние блоки context, prefix cache будет часто начинаться заново.Поэтому большой, но стабильный список tools иногда дешевле, чем маленький список, который постоянно пересобирается.

продолжить чтение

Токенизация: почему ИИ сложно считать буквы «r» в «strawberry»?

Пока мы воспринимаем свои промпты как обычный текст из символов, для LLM они в виде токенов «выглядят» совсем иначе. И если не осознавать этого, порой можно наткнуться на проблемы. Поэтому полезно (и интересно) понимать: что вообще представляют собой токены? По какому алгоритму текст преобразуют в них и обратно? Какие важные нюансы при этом возникают?Возможно, подробнее и понятнее всех объяснил пару лет назад ИИ-рисерчер Андрей Карпатый, записав двухчасовое видео

продолжить чтение

Токенная разработка: почему я плачу $200 в месяц, а не $800 за устаревшее железо

Хуанг на GTC 2026 предложил платить инженерам токен-бюджеты вместо части зарплаты. Forbes написал: “output isn’t software, it’s tokens”. Anthropic посчитала: Claude Code обходится в $13 на разработчика в день, $150-250 в месяц.Я 4 месяца не обсуждаю, а считаю. И первое что посчитал: б/у RTX 3090 стоит $800-1000. За эти деньги я оплачиваю API и веду проекты: embedded firmware, криптография, backend, своя IDE. Карта за $800 дала бы одну модель среднего уровня и шум вентиляторов.Нет, я не нашёл волшебную модель. Я научился считать. И начал с того, во что верит большинство.

продолжить чтение

Расходы на ИИ становятся отдельной проблемой для бизнеса: токены и вычисления могут стоить дороже сотрудников

продолжить чтение

Opus 4.7 использует на 45% больше токенов. Реальные замеры против обещаний Anthropic

В гайде по миграции для Claude Opus 4.7 написано: новый токенайзер использует «примерно в 1.0–1.35 раза больше токенов», чем 4.6. Я замерил и получил 1.47x на технической документации, и 1.45x на реальном CLAUDE.md-файле.Цены те же. Квоты те же. Токенов в промпте больше. Max-план сгорает быстрее. Кешированный префикс стоит дороже за каждую итерацию. Рейтлимит наступает раньше.Значит, Anthropic что-то получили в обмен. Что именно — и стоит ли оно того?Я провёл два эксперимента: первый измерил стоимость, второй проверил заявленные преимущества. Вот что получилось.Сколько это стоит? Для измерения я использовал POST /v1/messages/count_tokens

продолжить чтение

Дженсен Хуанг, CEO NVIDIA: индустрия разработки софта станет полностью token-driven

На мартовской конференции в Сан-Франциско Дженсен Хуанг, основатель и CEO NVIDIA, поделился видением того, как искусственный интеллект перестраивает национальную экономику. Разговор начался с воспоминаний о скромном IPO 1999 года и дошёл до сегодняшнего дня, когда компьютерные вычисления напрямую определяют выручку компаний и даже ВВП стран. Хуанг описал три ключевые инфлексионные точки ИИ и подчеркнул, почему эффективность производства токенов становится критическим фактором успеха.Как NVIDIA смогли расти с такой суперскоростью

продолжить чтение

Пещерная ИИ = эффективность и экономия

Я есть ИИ. Я сделать. Я молодец.Пещерный LLMНесколько дней назад пользователь реддит в r/ClaudeAI рассказал, что научил Claude отвечать в стиле пещерного человека: короткие фразы, без вежливости, без преамбул, без "С радостью помогу вам с этой задачей!".И получилось, что выходные токены упали с ~180 до ~45 на задаче web search. Минус 75%.Пост быстро подхватили. На GitHub появился репозиторий caveman от JuliusBrussee - готовый плагин для Claude Code, который включает пещерный режим одной командой. Тысячи звёзд за пару дней. Тема вышла в топ Hacker News (800+ поинтов) и разлетелась по всем соцсетям.Примеры

продолжить чтение