llm. - страница 108

llm.

С 14 августа Claude Code стартует в авторежиме: что лежит в его рулбуке

С 14 августа Claude Code будет стартовать в auto mode — режиме, где вместо диалога «разрешить/запретить» каждый вызов инструмента оценивает отдельный классификатор: анонс Anthropic.Касается это новых сессий на планах Pro, Max и Team. Тем, кто уже задавал свой режим по умолчанию, может прийти разовый вопрос о переключении; дефолт, прибитый администратором, не трогают. Enterprise, API, Bedrock, Vertex и Foundry остаются на опт-ине ещё примерно месяц.Правила, по которым классификатор судит, лежат локально; на моей сборке 2.1.226 их печатает команда claude auto-mode defaults:

продолжить чтение

Приручить цифровых чертей: как я собрал тренажёр по софт-скиллам на LLM

Рандом жульничал, ведущий жалел игрока, а сцены скучали — рассказываю, как строил MVP и почему теперь прошу вас его сломать.

продолжить чтение

Я объяснил KERNEL маме за пять минут. Потом проверил, переживёт ли он LLM в production

Почему хороший промпт подозрительно похож на техническое задание и где заканчивается prompt engineering, а начинается настоящая работа с LLMоригинальный пост в r/PromptEngineering

продолжить чтение

Диффузионные языковые модели: как устроены, что в них работает, а что вызывает вопросы

Привет, Хабр. На связи команды «Интерпретируемый ИИ» и «Основы генеративного ИИ» AIRI и «Генеративная поэзия» SberAI. Мы занимаемся альтернативными архитектурами языковых моделей — тем, что могло бы работать вместо привычной генерации токен за токеном слева направо.Одно из таких направлений — диффузионные языковые модели (dLLM). Диффузионные языковые модели, в отличие от обычных LLM, генерируют текст параллельно, несколько токенов за раз. Теоретически это даёт кратное ускорение. Также они не ограничены генерацией справа от контекста и могут заполнять произвольные пропуски в поданном на вход тексте.

продолжить чтение

Небольшой интерфейс + агентная сетка для решения задач исследований в продуктовой аналитике

Приветики, меня зовут Пётр и я продуктовый аналитик с коммерческим опытом в ПА около 12 лет. В моей работе глобально задачи делятся на 3 типа -- разметка событий, аб-тесты и продуктовые рисерчи.Про разметку я уже писал тут https://habr.com/ru/articles/785320/Под аб-тесты мы с корешами собрали коммерческий воркспейс (зарегайтесь, потестите, это бесплатно (длинно и не обрезано) если не нужны командные фичи). Было тут: https://habr.com/ru/articles/1064034/

продолжить чтение

Масштабирование LLM: от одного чипа до ЦОДа. Глава 4. Тренировка трансформера

Предыдущая главаНаконец-то мы добрались непосредственно до того, как тренировать трансформер, и не просто тренировать, а делать это эффективно и масштабируемо.

продолжить чтение

LLMs haven’t learned to lie. They only speak

LLMs hallucinate — everyone has seen what it looks like. The model reports, confidently and coherently, with the right intonation and terminology, something that isn't there. Engineers treat this as a bug: one being fixed, one about to be fixed.It won't be. This is not a technical fault but an inherent property of language, which the machine has made visible.Language does not need realityLanguage is a unique system precisely in this: it emerges from reality, yet needs no reality for its own coherence.The word-as-gesture and the word-about-a-gesture are built the same way. From inside language they are indistinguishable. "I lifted a stone" and "I lifted the sky" are grammatically equal; what tells them apart is the consequence — the response of whatever doesn't care how it is described: the stone, the hand, the weight. Inside language there is no filter and never was; the check against reality is always performed from outside.

продолжить чтение

Покажи мне свой харнесс — и я спрошу у Клода, кто ты

Я продолжаю пилить по вечерам и ночам локальный заметочник Nitinol. Это третья статья цикла: в первой я рассказывал, как десять лет терял заметки, во второй — про хранение и поиск без RAG. В этот раз — про кухню разработки: стек, модели и процесс, о которых спрашивали в комментариях.

продолжить чтение

Тест локальных MOE моделей

продолжить чтение

Как у нас в проекте на самом деле пишется код

После прошлого поста в комментариях несколько раз возникал вопрос: а кто вообще пишет весь этот код и насколько здесь участвуют нейросети? Вопрос, в общем, закономерный. Объём того, что небольшая команда успевает одновременно разрабатывать и поддерживать, действительно довольно большой.Масштаб, о котором обычно не пишутВ прошлой статье речь шла в основном про транспортный уровень - uTLS, decoy-трафик, pacing и всё, что связано с прохождением DPI. Это удобно рассматривать как отдельную техническую задачу, но внутри проекта это только один слой.

продолжить чтение