llm. - страница 51

llm.

Как оптимизировать расходы на инфраструктуру для искусственного интеллекта. Выбираем железо и модели под разные задачи

продолжить чтение

«Тосок бессмысл»: как я не смог заставить Gemma 4 писать хорошие стихи

Всем привет! Меня зовут Даниил Шеремет, я AI-инженер в Agentic Lab. Днём я проектирую агентные системы, а по вечерам весь последний месяц жёг GPU-часы, пытаясь заставить Gemma 4 писать русские стихи — с правильным ямбом, честной рифмой и хоть каким-то смыслом.

продолжить чтение

Всё, что вы хотели знать о локальном ИИ, но стеснялись спросить

РептилоидЕсли вы когда-нибудь смотрели на HF и не понимали, что такое DFlash, квантизация и почему одна и та же модель лежит в десяти репозиториях от десяти разных людей — или давно собирались поднять LLM у себя, но всё не находили повода — выход Muse Glimmer 30B буквально лучший момент начать.

продолжить чтение

После Тьюринга: может ли машина программировать?

продолжить чтение

Почему нейросети съедают токены: что происходит с длинными чатами и как снизить расход

Один пользователь Claude пишет, что потратил больше миллиарда входных токенов. Другой оставил AI-агента без присмотра и насчитал около $6000 расходов. Цифры из Reddit стоит воспринимать осторожно, но проблема за ними реальная: длинный контекст обходится дороже, а иногда ещё и мешает модели нормально работать.

продолжить чтение

Агентура (рассказ)

В кабинете было дымно и сумрачно. В центре стоял длинный прямоугольный стол, покрытый зелёным, шершавым сукном; по краям тускло поблёскивало тёмное лаковое дерево.Никто — наверное, даже самый опытный и авторитетный из здешних сотрудников, человек, способный поднять наверх любой документ и одним росчерком решить судьбы многих людей, — не смог бы ответить на простой вопрос: когда здесь появился этот стол?До революции? Возможно.Одно было ясно всем: стол переживёт их. Переживёт он и того самого пожилого человека в тёмном форменном кителе с несколькими звёздами на погонах, который сейчас сидел во главе стола.

продолжить чтение

Помогаем детским ревматологам повышать эффективность терапии: ИИ-агент для дистанционного мониторинга

продолжить чтение

Почему цена Bitcoin «сломалась»: разбор аномалий 2022–2026 с WhyTrend

Увидел провал на графике → открыл Google или Twitter → полдня собираешь версии "почему". Знакомо? Детектор аномалий сам по себе даёт только точки на оси времени, а вопрос "почему" как был ручным, так и остаётся.В этот раз я прогнал WhyTrend не на паре аккуратных точек из Google Trends, а на полном ряде BTC за 4.5 года — и заодно на двух разных LLM. Результат оказался неожиданным: модель меньшего размера дала в три раза больше настоящих объяснений, чем более крупная. Расскажу, что случилось и почему.Что запускалиДанные — дневные close BTC/USDT, 1680 точек без единого пропуска, с 1 января 2022 по 7 августа 2026. Ключевое слово одно — Bitcoin

продолжить чтение

73 замечания начальника как датасет: делаем цифрового двойника рецензента

У меня есть руководитель, который очень хорошо ревьюит документы. Настолько хорошо, что один его проход по моим текстам породил 73 комментария. За один день.Первая реакция была ожидаемая: сесть и править. Вторая пришла минут через десять и оказалась продуктивнее: это же датасет.Дальше — история о том, как замечания одного конкретного человека превратились в чек-лист из 16 правил, чек-лист — в этап конвейера, а следующая партия документов ушла без единой правки по старым паттернам. С кодом, промптами и одним неудобным вопросом в конце.Контекст: что за документы

продолжить чтение

Галлюцинации недели: Джефф Дин уходит из Google, релиз Qwen 3.8 Max и агенты, которые завели себе доску объявлений

продолжить чтение