llm. - страница 78

llm.

NVIDIA RTX PRO 5500 Blackwell: RTX 5090 и щепотку VRAM, пожалуйста

NVIDIA молниеносно расширяет профессиональную линейку Blackwell™. Вслед за RTX™ PRO 6000, 5000 и 4000 компания представила RTX™ PRO 5500 Workstation Edition

продолжить чтение

Студент больше не нужен? LLM изготовила нам рентгеновское зеркало

продолжить чтение

Рецензия на книгу «Разработка приложений на базе больших языковых моделей»

продолжить чтение

I Forced an AI to Program Like It Was 1995. After 20 Changes, It Started Reinventing Modern Software

Most experiments with AI coding assistants start from a modern stack. The model gets Python, JavaScript, Go, Rust or a recent version of C++, plus libraries, package managers and years of conventions already embedded in the ecosystem. That is useful if the goal is productivity, but I wanted to test something slightly stranger. What happens if the language gives the model almost none of the tools it is used to seeing in modern code? Would it actually think like a programmer from the mid-1990s, or would it simply reconstruct modern architecture using primitive language features?The starting application was intentionally boring. It was a command-line contact database written in ANSI C. One executable, one local data file, fixed-size fields and a few commands. There was no database server, no network, no dynamic plugin system, no package manager and no third-party code. The environment itself was modern Linux because I was interested in programming constraints rather than hardware emulation. Everything was compiled using GCC with strict C89 settings.

продолжить чтение

Система экстренных оповещений на 15 тысяч пользователей: LLM, PostGIS, Qdrant и Telegram

В нашем телеграм-боте — системе экстренных оповещений «Мигалка» — нужно в реальном времени обрабатывать сообщения примерно из тысячи телеграм-каналов и доставлять релевантные события пользователям в конкретных локациях.Официальные предупреждения о прилетах дронов и ракетных ударах часто приходят

продолжить чтение

В iOS 27 нашли возможность подключать к Siri сторонние LLM

Датамайнер под никнеймом pdfu обнаружил в iOS 27 и macOS Golden Gate механизмы для интеграции Siri со сторонними языковыми моделями. В тестах ему удалось подключить к ассистенту Claude от Anthropic и заменить серверную модель Siri на GPT-5.6 Terra от OpenAI.

продолжить чтение

Я обучил собственную визуально‑языковую модель меньше чем на 1 млрд параметров

Каково это сегодня — с нуля собрать и обучить собственную визуально‑языковую модель? Именно этот вопрос и подтолкнул меня попробовать самому. Я взял базовую языковую модель, подключил к ней визуальный бэкбон и несколько часов обучал всё это на арендованной GPU в RunPod, пытаясь добиться от модели осмысленных описаний изображений.TL;DR:

продолжить чтение

Каскадное планирование тренировок с LLM: как удержать план в рамках методики

LLM хорошо справляется с формой тренировочного плана: распределяет занятия по дням, описывает интенсивность, объясняет упражнения. Но связный текст ещё не означает связную методику. Модель сама по себе не хранит актуальный контекст спортсмена и не обеспечивает преемственность между целью сезона и завтрашней тренировкой. В 1trAIner мы решаем эту задачу через каскад горизонтов, явный контекст и ограничения поверх генерации. Ниже — устройство этого подхода, его защитные механизмы и границы.Почему один запрос не работает

продолжить чтение

Как устроен RAG для юридических документов и почему одной LLM оказалось недостаточно

Первый вариант системы выглядел вполне стандартно: документы разбиваются на фрагменты, для них считаются embeddings, пользователь задаёт вопрос, несколько наиболее подходящих фрагментов отправляются в LLM вместе с запросом. Модель формулирует ответ — на первых тестах этого было достаточно.Проблемы начались на вопросах, которые на первый взгляд мало чем отличаются друг от друга:Какая пеня установлена в договоре № 14/24.7645?Кто из арендаторов не заплатил за май?А у него предусмотрена индексация?Контрагент предлагает добавить пеню в 0,01%. Насколько это существенно?

продолжить чтение

Диффузионная LLM технически умеет глушить свой контекст. Я попробовал этим воспользоваться

У авторегрессионной модели контекст — это то, что уже случилось. Токен выдан, и переписать его нечем: генерация умеет только дописывать справа.У диффузионной всё иначе. На каждом шаге она делает полный двунаправленный проход по всей последовательности и переоценивает каждую позицию. Решение «эту фиксируем, эту оставляем открытой» принимает встроенный механизм уверенности: прошёл максимум softmax порог — токен приморожен, не прошёл — остаётся маской и будет переписан. То есть у диффузионной модели структурно есть

продолжить чтение