llm.
Полез в исходники vLLM, чтобы понять, почему один символ убивает prompt caching
В первой части я вывел одно правило и предложил жить по нему: стабильное в начало, изменчивое в хвост
Локальная большая лингвистическая модель на Windows 11: выбор среды, модели и пошаговое развёртывание
Это третья статья в рамках проекта "Ситуационная осведомленность 24/7". С нее мы начинаем подготовку к развертыванию своей локальной систему круглосуточной ситуационной осведомленности. В данном материале пойдет доклад о том, как поднять свою локальную большую лингвистическую модель (далее - БЛМ).Приступим.Зачем вообще запускать БЛМ локально
Claude Code втихую метит запросы. Так Anthropic ищет тех, кто учит на нём свои модели
Мы даём кодовым агентам полный доступ к машине: файлы, шелл, git. Значит, сам бинарник должен быть предсказуемым, без сюрпризов. У Claude Code сюрприз есть: он незаметно помечает часть запросов. Судя по логике, цель одна — вычислить тех, кто гоняет Claude, чтобы обучать на его ответах свою модель. Это называется дистилляцией, и для любой AI-компании это прямая кража.Что прячется в промптеВ системный контекст уходит обычная строка с датой:Today’s date is 2026-06-30.
Как не нарваться на prompt-injection или зачем нам проверять скиллы?
В прошлой статье говорили про использования LLM хакерами, и обещал как раз продолжение, как защищить свое рабочее пространство, ну в общем, к делу :)
AI-база: LLM, языковые модели, агенты, агентные механизмы
Привет, хабр, меня зовут Кияшева Екатерина. Вообще я из QA, но сегодня сделаю шаг в сторону и разберу архитектуру агентов на базе языковых моделей.
Как мы сократили код-ревью с двух суток до пятнадцати минут: кейс мультиагентной системы
Кейс CTO AlpinaGPT Сергея Андриянова: как из боли с код-ревью в аутсорс-команде вырос продукт Evolver, и почему мы сознательно отказались от автономных агентов в проде.В конце мая мы собирали внутреннюю мастер-встречу по AI-трансформации, и один из докладов оказался настолько содержательным, что я не могу удержаться и не пересказать его. Выступал Сергей Андриянов — наш CTO в AlpinaGPT
Делюсь опытом: ИИ-агент на Claude без LangChain и RAG — разбор архитектуры и развилок
Зачем я это пишуЗапустил недавно прод-агента на Claude — небольшой, для бытовой задачи у знакомой. По дороге понял несколько вещей, которые сначала казались мне очевидными «после интернета», а потом, когда сел и проверил на реальной задаче, начали играть иначе. Хочется поделиться разбором — может, кому-то сэкономит неделю-другую на тех же развилках.Сразу честно: я не «академический» разработчик. До последнего года писал на Python в основном чтобы прочитать чужой скрипт и подправить отступ. То, что вы увидите в коде ниже — собирал руками, лезя в документацию по каждому слою. Поэтому это не «гайд от эксперта», а скорее
Студенты-медики массово выпускают сомнительные исследования с помощью популярного инструмента
Критики считают, что TriNetX позволяет слишком легко анализировать электронные медицинские карты, из-за чего неопытные исследователи быстро публикуют плохо проработанные статьи.

