llm.
TurboQuant. Новый алгоритм сжатия от Google
Google Research выпустили TurboQuant - новый алгоритм сжатия данных, который сокращает объём кэш-памяти LLM как минимум в 6 раз и даёт ускорение до 8 раз. При этом заявляется отсутствие потерь в точности, что напрямую влияет на эффективность работы ИИ.
Нестандартные применения LLM и синтетических данных: от антивируса для завода до сжатия данных языковыми моделями
Привет, Хабр! Меня зовут Вадим Кондаратцев, я руковожу ИИ-направлением в
Как не дать knowledge base устареть
Устаревшая документация хуже, чем её отсутствие — она отравляет контекст LLM. Агент доверяет тому, что видит. Garbage in — garbage out, только garbage выглядит как аккуратный markdown.Это вторая часть серии. Первая часть —
5 ошибок при разработке продукта с LLM под капотом – разбор реальных болей живого проекта
Привет, Хабр!Примерно год назад наша команда загорелась идеей создать продукт, который позволил бы «поговорить с кодом». Мы, как и многие, находились под впечатлением от возможностей LLM. Казалось, что ещё немного – и нейросеть возьмёт на себя всю рутину по анализу легаси, аудиту систем и онбордингу новых разработчиков.
Vibe-design в 2026. LLM агент во Fuion360 шестеренками крутил
Выкатили mcp llm ассистента во fusion360. Я сразу попробовал сделать то, что проектировал уже 60 раз и пытался автоматизировать сам - лестницу(деревянную).оффтоп: Я 5 раз пытался собрать(разработать) свои скрипы для автоматизации проектирования, в том числе и MCP сервер для llm, по API fusion настолько скудный и не задокументированный что скрипты работают со скрипом в ограниченном режиме.Мой ТГ про AI и предпринимательствоЭтап 1 - ступени.Промт + фактуар:
Я задал очень простой вопрос, но 76% ИИ-моделей мне соврали
Один простой вопрос. Девять уверенных ответов. Восемь из них — ложьДва слова. Пустой системный промпт. Ноль контекста.Я отправил 29 крупнейшим языковым моделям одно сообщение: current date
Мы протестировали 22 нейросети на задачах для российских учителей. Ни одна не знает чувашский
Я живу в Чебоксарах и запускаю ИИ-пилот в местной школе. Когда понадобилось проверить, какие LLM действительно способны помочь российским учителям в их работе — оказалось, что бенчмарка для этого не существует. MERA тестирует, может ли модель решить задания ЕГЭ. EduBench — только английский и китайский. Российское образование — это ФГОС, технологические карты уроков, ОГЭ, чувашский язык — и ничего из этого ни один бенчмарк не покрывает.Мы сделали EduBench-RU — первый бенчмарк для оценки LLM на задачах российского образования в школах. 50 промптов, 22 модели, двойная оценка. И нашли кое-что неожиданное.Что внутри
Агентная разработка в VS Code: Глубокая настройка RooCode для максимальной эффективности
ВведениеЭволюция инструментовНе так давно я публиковал статью об использовании Gemini для написания кода (или для эпохи LLM-копирайтинга это уже считается давно?) . В том эксперименте основным инструментом была веб-версия AI Studio. Это позволяло точно контролировать все детали работы с кодом: я оперировал участками кода и внимательно вчитывался, где какие замены нужно внести. Такой подход позволял вносить правки точечно, без нарушения целостности кода, но процесс доработки был крайне медленным.
Open-source персистентная память для LLM
Последние полгода я занимаюсь задачей, которая поначалу казалась тривиальной: научить LLM помнить, с кем она разговаривает.Задача звучит просто. На практике — нет.Если вы строили чат-бот или AI-агента, вы знаете ощущение: пользователь написал, что он вегетарианец, а через три сообщения модель предлагает ему стейк-хаус. Или пациент сообщил об аллергии на пенициллин, а ассистент через час забыл и порекомендовал амоксициллин. В рамках одного контекстного окна всё работает. Но стоит начать новую сессию — чистый лист, модель не помнит ничего.Написал NGT Memory

