батчинг.

Anthropic против OpenAI: два разных подхода к «быстрому режиму»

Недавно Anthropic и OpenAI объявили о запуске «быстрого режима» — способа работать с их лучшей моделью для программирования на значительно более высокой скорости.Эти два варианта устроены совершенно по-разному. У Anthropic скорость достигает 2,5× токенов в секунду (примерно 170 вместо 65 у Opus 4.6). У OpenAI — более 1000 токенов в секунду (вместо 65 у GPT-5.3-Codex, то есть ускорение в 15 раз). Таким образом, быстрый режим OpenAI примерно в шесть раз быстрее, чем у Anthropic

продолжить чтение

LLM‑разметка в поиске: от эксперимента к инструменту

Привет! Меня зовут Александр Баранов, я аналитик данных в команде поиска Купера. Цель этого рассказа, поделиться наработками в деле оптимизации разметки текстовых данных при помощи большой языковой модели (LLM). Если после прочтения вы захотите что-то добавить или спросить, буду только рад!

продолжить чтение

Обзор книги «Аптайм: Оптимальный способ управления временем и энергией», Лора Мэй Мартин

Управлять нужно не временем, а энергией... «О, прекрасная Лора Мэй! — подумал я. — Можно мне не есть лягушку? И слона тоже бы не хотелось. Вообще-то я эстет и гурман, а гадость ем, потому что так велит тайм-менеджмент». Лора сказала, можно. И добавила, что главное не есть себя. «Наверное, — снова подумал я, — тут есть какое-то большое "но"». Но Лора лишь улыбнулась: «Запомни, мой мальчик, — сказала она, — главное не есть себя...».Что ж, попробуем в этом разобраться.Меня зовут Костя Дубровин. Я веду канал про книги.

продолжить чтение

Rambler's Top100