llm. - страница 63

llm.

Как продвигать в нейросетях интернет-магазин, если тот же товар на маркетплейсе дешевле

Представим крупного продавца бытовой техники. У него известное имя, десятки офлайн-магазинов, консультанты, доставка, собственная поддержка. Возможно, он умеет устанавливать технику, принимать ее в сервис, помогать с гарантийными случаями.А еще у него есть интернет-магазин.В каталоге стоит хорошая автоматическая кофемашина известного европейского бренда. Допустим, De’Longhi. Цена у нашего продавца 99 900 рублей.На маркетплейсе та же модель стоит 94 900.Покупатель пока ничего об этом не знает. Он открывает ChatGPT, Алису или другую нейросеть и спрашивает:

продолжить чтение

Шестнадцать обещаний и две модели, которые пытались их нарушить: как мы выпускали skillmem 0.12

skillmem — это локальная память для кодовых агентов: MCP-сервер поверх SQLite с девятью инструментами mem_*. Одну базу делят Claude Code, Codex, Cursor и другие клиенты. На Хабре уже были две статьи о нём: как чужой README становился правилом пользователя и сорок раундов ревью. Эта статья — третья и, надеюсь, последняя про ревью.Почему «ревьюить, пока не станет чисто» не работает

продолжить чтение

Джуну дали ИИ, а работы прибавилось у сеньора

Корявый код джуна раньше был полезен. Странный JOIN, переменные tmp2 и data_new, три вложенных if там, где хватило бы одного. По таким следам ревьюер сразу видел, где человек плавает, и шёл проверять именно туда.

продолжить чтение

Парадигма DDD стала гораздо важнее, когда ИИ пишет код за вас

Что бы вы ни думали о программировании с привлечением ИИ, сейчас подходы к созданию ПО меняются. Все задумываются: «Что останется важным»? Сколько людей — столько мнений, но выскажу моё: большинство идей из области предметно‑ориентированного проектирования (DDD) сейчас важны как никогда, поскольку парадигма DDD никогда не ограничивалась кодом как таковым.

продолжить чтение

Экономика клиентской разработки с AI

С AI в клиентской разработке стало выгодно делать то, что раньше технически было несложно, но экономически бессмысленно. Какой‑нибудь специфический фильтр, дополнительный экран в админке, сценарий обработки данных... Раньше смотришь на задачу и понимаешь, что руками это несколько часов работы. Клиенту функция не настолько нужна, сколько она стоит в хорошей реализации, поэтому либо от неё отказываемся, либо ищем готовый плагин, который умеет нужное и подгружает ещё семьдесят свистелок.

продолжить чтение

Динамо, вал и ИИ-агенты: ИТ проходит этот цикл уже в четвёртый раз

Коротко. За последние недели OpenAI приостановила выпуск самых мощных моделей с доступом к инструментам после того, как агент выбрался из изолированной среды, а NVIDIA выпустила платформу для ограничения агентов на уровне процессоров и сети. Это выглядит как новость про «опасный ИИ», но на деле это знакомый цикл: открытая фаза, инцидент, ограничения. ИТ проходило его с сетями, с макросами, с плагинами браузеров. У этого цикла есть предсказуемый финал, и к нему можно прийти заранее, без собственного инцидента. Ниже история, наши цифры и чек-лист. Неделя, которая всё объяснила

продолжить чтение

CMF: решения за миллисекунды без генерации токенов (аналог Jev) с открытыми весами

Сейчас очень много обсуждают модель Jev от Typesafe, я решил выложить модель в своем CMF формате для личного использования (License:apache-2.0) которая давно работает на шлюзеКак это работает? Например пользователь пишет, что карта так и не пришла. Приложению нужно выбрать card_arrival и передать обращение в нужный обработчик, или напиши функцию на go, принять решения нужно максимально быстро. Таких развилок много: выбрать инструмент агента, определить тему заявки, сложность, направить документ на проверку, определить сложность и тип задачи.Для этих задач я опубликовал CMF Decision

продолжить чтение

Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт

Материал подготовлен в рамках курса «MLOps».Всем привет, меня зовут Сергей Прощаев и в этой статье расскажу про то, как снизить стоимость инференса LLM на собственных GPU, не меняя

продолжить чтение

Почему fallback между LLM может сломать семантику ответа

Когда проектируешь обычный backend, fallback обычно воспринимается как довольно понятный механизм.Есть основной upstream. Если он недоступен, переключаемся на резервный. Если один pod умер, запрос обслужит другой. Если один PostgreSQL read replica недоступен, читаем с другой. Если основной endpoint партнёра отвечает ошибкой, можно попробовать резервный.В большинстве таких случаев мы предполагаем, что резервный исполнитель реализует тот же контракт.С LLM это предположение начинает ломаться.Две модели могут принимать один и тот же JSON, возвращать JSON по одной и той же схеме и при этом фактически выполнять задачу по-разному.

продолжить чтение

Jev: модель, которая не пишет текст, а принимает решения

Последний год я слежу за LLM-шным хайпом, и каждый день появляется что-то новое. На этот раз хочу рассказать про Jev — модель TypeSafe System One, которую я изучал последние пару недель. Она сразу меня зацепила: это не очередная LLM, а штука с принципиально другой механикой. Сразу обозначу: не будет «это меняет мир» и «всё гениально просто». Будет сухой разбор от первого лица: что это, как работает и во сколько реально обходится.

продолжить чтение