llm.
Приручить цифровых чертей: как я собрал тренажёр по софт-скиллам на LLM
Рандом жульничал, ведущий жалел игрока, а сцены скучали — рассказываю, как строил MVP и почему теперь прошу вас его сломать.
Я объяснил KERNEL маме за пять минут. Потом проверил, переживёт ли он LLM в production
Почему хороший промпт подозрительно похож на техническое задание и где заканчивается prompt engineering, а начинается настоящая работа с LLMоригинальный пост в r/PromptEngineering
Диффузионные языковые модели: как устроены, что в них работает, а что вызывает вопросы
Привет, Хабр. На связи команды «Интерпретируемый ИИ» и «Основы генеративного ИИ» AIRI и «Генеративная поэзия» SberAI. Мы занимаемся альтернативными архитектурами языковых моделей — тем, что могло бы работать вместо привычной генерации токен за токеном слева направо.Одно из таких направлений — диффузионные языковые модели (dLLM). Диффузионные языковые модели, в отличие от обычных LLM, генерируют текст параллельно, несколько токенов за раз. Теоретически это даёт кратное ускорение. Также они не ограничены генерацией справа от контекста и могут заполнять произвольные пропуски в поданном на вход тексте.
Небольшой интерфейс + агентная сетка для решения задач исследований в продуктовой аналитике
Приветики, меня зовут Пётр и я продуктовый аналитик с коммерческим опытом в ПА около 12 лет. В моей работе глобально задачи делятся на 3 типа -- разметка событий, аб-тесты и продуктовые рисерчи.Про разметку я уже писал тут https://habr.com/ru/articles/785320/Под аб-тесты мы с корешами собрали коммерческий воркспейс (зарегайтесь, потестите, это бесплатно (длинно и не обрезано) если не нужны командные фичи). Было тут: https://habr.com/ru/articles/1064034/
Масштабирование LLM: от одного чипа до ЦОДа. Глава 4. Тренировка трансформера
Предыдущая главаНаконец-то мы добрались непосредственно до того, как тренировать трансформер, и не просто тренировать, а делать это эффективно и масштабируемо.
LLMs haven’t learned to lie. They only speak
LLMs hallucinate — everyone has seen what it looks like. The model reports, confidently and coherently, with the right intonation and terminology, something that isn't there. Engineers treat this as a bug: one being fixed, one about to be fixed.It won't be. This is not a technical fault but an inherent property of language, which the machine has made visible.Language does not need realityLanguage is a unique system precisely in this: it emerges from reality, yet needs no reality for its own coherence.The word-as-gesture and the word-about-a-gesture are built the same way. From inside language they are indistinguishable. "I lifted a stone" and "I lifted the sky" are grammatically equal; what tells them apart is the consequence — the response of whatever doesn't care how it is described: the stone, the hand, the weight. Inside language there is no filter and never was; the check against reality is always performed from outside.
Покажи мне свой харнесс — и я спрошу у Клода, кто ты
Я продолжаю пилить по вечерам и ночам локальный заметочник Nitinol. Это третья статья цикла: в первой я рассказывал, как десять лет терял заметки, во второй — про хранение и поиск без RAG. В этот раз — про кухню разработки: стек, модели и процесс, о которых спрашивали в комментариях.
Как у нас в проекте на самом деле пишется код
После прошлого поста в комментариях несколько раз возникал вопрос: а кто вообще пишет весь этот код и насколько здесь участвуют нейросети? Вопрос, в общем, закономерный. Объём того, что небольшая команда успевает одновременно разрабатывать и поддерживать, действительно довольно большой.Масштаб, о котором обычно не пишутВ прошлой статье речь шла в основном про транспортный уровень - uTLS, decoy-трафик, pacing и всё, что связано с прохождением DPI. Это удобно рассматривать как отдельную техническую задачу, но внутри проекта это только один слой.

