«Вам может это понравиться»: на Урбан ML разобрались, почему рекомендательные системы перестали предлагать похожее
Открывая онлайн-кинотеатр, сервис для прослушивания аудиокниг или музыки, пользователи редко задумывается о том, почему перед ним оказались именно эти фильмы, книги или треки. Между тем рекомендательные системы в последнее время переживают крупную трансформацию. Если раньше задача сервисов сводилась к поиску похожих пользователей или товаров, то сегодня они уже умеют предугадывать намерения человека, и развитие LLM ускорило этот процесс.
Качество топовых моделей на 60% дешевле: Cursor представили Router
Разработчики Cursor представили Cursor Router. Систему, которая автоматически выбирает ИИ-модель отдельно для каждого запроса. Функция встроена в режим Auto и предназначена для пользователей тарифов Teams и Enterprise.По данным компании, около 60% разработчиков выбирают одну модель и используют её для всех задач. В результате простые операции выполняются по тарифам наиболее дорогих моделей, хотя не требуют их возможностей.
Astra Studio: enterprise веб-приложение для взаимодействия с ИИ с нуля
Часть 1: Архитектура и философия проектаПолностью локальная система с агентной архитектурой, продвинутым RAG, MCP и мультимодальными возможностямиРепозиторий проекта: https://github.com/NeKonnnn/Astra-StudioAstra Studio
Препарация трансформера
В данной статье автор попытается осмыслить архитектуру трансформеров - все наслышаны, все всё знают, но никто толком не понимает - а посему цель этой статьи - попытаться дать объяснения на концептуальном уровне, без заумных математических формул и нечитаемых дефиниций. Признаю, что объяснять теорию простыми и понятными словами - истинное искусство, доступное немногим уровня Ландау и Лифшица, но в наше время декаданса и постмодерна буду пытаться как умею. И да, автор не гарантирует 100% достоверности нижеприведенной информации, а лишь свое разумение.
LLM и уровень усилий (effort) в Claude Code: знать больше или стараться лучше?
Claude Code даёт две настройки, которые обе как бы «улучшают ответ»: модель и уровень усилий (effort). Но как они влияют на результат? И как понять, когда нужно менять модель, а когда — просто уровень усилий?Легко предположить, что модель побольше, например Fable, даёт результат лучше, чем Sonnet, а более высокий уровень усилий значит просто «Claude думает дольше перед ответом».Первое предположение верно. Наши крупнейшие модели действительно более способные согласно отраслевым бенчмаркам.
Контекстная инженерия: что это такое, как работать с контекстом и почему за это начали платить
Вы собрали диалоговую систему — агента с RAG, инструментами и памятью. На коротких диалогах всё работает: модель выбирает нужный инструмент и достаёт данные. Но через несколько десятков итераций агент уже путает инструменты, тянет в ответ старые вызовы и опирается на ошибку, которая раньше попала в контекст.Новый промпт не всегда решает проблему: важно управлять тем, какая информация попадает к модели перед каждым следующим шагом. Это и называют контекстной инженерией.
Reddit использует большие языковые модели для решения проблем LLM
В Reddit разработали инструменты с использованием больших языковых моделей для борьбы со спамом, большая часть которого изначально создавалась с помощью LLM. По данным платформы, ежедневно они блокируют 23 млн спам-просмотров и отлавливают около 25 тысяч новых спам-сообщений и комментариев.
Всё, что вы хотели знать про локальные LLM, но боялись заинференсить
Хардкорный NIAH или почему у Gemma 26B память рыбки, какой Qwen лучше, и что показали 8 моделей на RTX 5090Привет, Хабр.Меня зовут Артём Хакимов, я работаю в команде GPUGO.Большая часть наших пользователей, которая не создаёт ИИ-подружек, работает с LLM — кто-то дообучает, кто-то гоняет инференс. И у всех одни и те же вопросы: «что быстрее?», «сколько контекста влезет?», «какой квант брать?».
