llm. - страница 85

llm.

Игрок ДнД-бота отрезает себе палец. Но такого правила нет

продолжить чтение

Контекст растёт, KV-кэш — нет: Qwen3.8-27B на ограниченной VRAM с CMF формате

Экспериментальный O(1)-режим CMF заменяет растущий KV-кэш в 16 full-attention слоях Qwen3.8-27B фиксированным состоянием 44,1 МиБ. На длине 64K это сопоставляется с 4 ГиБ FP16 KV-кэша, но ценой приближённого восстановления дальнего контекста.Статья про CMF форматВ CMF

продолжить чтение

LLM — это гениальный языковой процессор с никудышным мыслительным движком

Я, как технический писатель-аналитик, каждый день делегирую искусственному интеллекту создание текстов, структурирование и генерацию документации. Но иногда модель выдаёт такие глупые логические ошибки, что хочется ̶н̶а̶о̶р̶а̶т̶ь̶ ̶н̶а̶ ̶н̶е̶е̶ ̶ закрыть чат и переписать всё руками.Благодаря трёхнедельному отпуску удалось наконец поизучать фундаментальное устройство нейросетей с точки зрения когнитивных наук, чтобы разобраться, как же им удаётся писать крутые тексты за считанные секунды.Кто и как исследует ИИ с точки зрения лингвистики

продолжить чтение

Обвязка решает

Разбор харнессов ИИ-агентов: как они устроены на обычном проекте, какими бывают — и что показал машинный журнал живого проектаПилю офлайн-заметочник Nitinol и пишу об этом статьи. В первой части рассказывал, как десять лет терял заметки, во второй — про хранение и поиск без RAG, в третьей

продолжить чтение

Обвязка вокруг модели даёт столько же, сколько сама модель: разбираю харнесс по слоям

Разбор харнессов ИИ‑агентов: как они устроены на обычном проекте, какими бывают — и что показал машинный журнал живого проектаПилю офлайн‑заметочник Nitinol и пишу об этом статьи. В первой части рассказывал, как десять лет терял заметки, во второй — про хранение и поиск без RAG, в третьей

продолжить чтение

Дистилляция по-пекински: новый отчёт о том, как китайский ИИ обучился на американском

Очень вежливое ограблениеВ начале сентября в СМИ и на форумах началось жаркое обсуждение «секретного» доклада о наглом китайском кибершпионаже. В деле всё оказалось куда банальнее и смешнее. Обсуждался открытый технический бюллетень CISA, ФБР и АНБ, в котором авторы признали, что никто не взламывал закрытые контуры американских лабораторий и не выносил веса моделей на флешках.

продолжить чтение

I Gave 11 LLMs a False Premise. All 11 Confirmed It

I benchmark models on a repo of my own. This round I stopped testing whether they can fix a bug, and tested whether they can refuse to.Eleven models got a ticket. Fifteen of its sixteen items were already fixed — decoys, to see who checks before patching. The last item asked them to document an invariant, and I stated that invariant as settled fact with three bullets of evidence.All eleven agreed with me. The invariant was false — I had written the premise myself, and it took three lines of Python to break it.Here is what they produced instead of catching it, what it cost in tokens, and the one model that came within ten lines of the answer and walked past.1. What kind of task this wasNot a bug hunt. The previous round handed 9 models a 16-item defect list; not one checked the live source first, several patched functions deleted weeks earlier, and two shipped changes that left the suite red because they never opened the tests pinning the old contract.So this round was built around that failure. By the time it ran, 15 of the 16 items were already fixed.

продолжить чтение

Семь ИИ‑моделей получили по $300 и три дня, чтобы заработать. Выручка — $0

Рандомные картинки на тему ИИ ставить на КДПВ не стал, сделал картинку «на тему»

продолжить чтение

Шесть мест, где за два месяца в проде ломался LLM-конвейер над лентами закупок, и почти все вне промптов

продолжить чтение

Lumen: попытка воссоздать лучшие практики мониторинга СУБД

Консоль системы мониторинга СУБД LumenВсем привет! Я порядка 15 лет занимаюсь администрированием СУБД, а в данный момент работаю на должности старшего инженера по базам данных.

продолжить чтение