Путь к локальному LLM — модель которую я наконец-то реально использую каждый день
Путь к локальному LLM: как требвоания по ИБ и “дух авантюризма” привели меня к 125B-модели под столом - и почему агенты больше не просят облако
Когда закончится безумие и чего ждать от цен на оперативную память и видеокарты?
Я не аналитик (хотя по образованию системный), не эксперт и уж точно мои советы не являются инвестиционной рекомендацией. Эта статья - просто частное мнение обычного человека.Давайте посмотрим на текущие тенденции рынков широким взглядом, потому что то, что комплектующие уже год как дорожают из-за кризиса памяти мы видим узким заплаканным взглядом. Сегодня, чтобы выгодно купить ПК, нужно изучить рынки, понять ситуацию с политикой и инвестициями, углубиться в машинное обучение, узнать о личной жизни Дженсена Хуанга и погадать на таро. Последнее предпочтительнее остальных.
Разработчик протестировал, как разные AI‑сервисы создают сайтов
Разработчик Пит Миллспо (Pete Millspaugh) сравнил шесть популярных AI‑сервисов для создания сайтов. У всех сервисов было одно задание: разработать сайт для выступлений о создании персональных сайтов.
Неделю гонял 14 локальных LLM на мини-ПК с Ryzen AI Max+ 395. Цифры, грабли и что я оставил себе
КороткоМашина GMKtec EVO-X2 на 96 ГБ, Ubuntu 26.04, LM Studio, кванты Q4.В отборочном круге было 12 моделей. В финал вышли четыре лидера и два новых претендента, которых я докачал уже после отбора, так что всего через тесты прошло 14.Qwen3.8 27B выдаёт 12,8 токена в секунду, а Gemma 4 26B A4B на том же железе 63, хотя файлы у них почти одного размера.Размер окна контекста на скорость и баллы не повлиял, если запрос один и тот же. А вот длинный контекст модели читают минутами, 200K токенов занимают от 8 до 23 минут.На длинном контексте лучше всех отработала Qwen3.8, и это главная причина, по которой она у меня осталась.
«Восьмой пассажир»: творческий путь Чужого от идеи до экрана
— Это безупречный организм. Совершенство его строения сравнимо только с его враждебностью.— Ты им восхищаешься?— Я восхищаюсь его чистотой. Организм для выживания, незамутненный совестью, жалостью или мнимой моралью...
Как я разрабатываю систему, которая не верит ИИ‑агенту на слово
ИИ‑агент может самостоятельно разобраться в устройстве сайта, найти ошибку и предложить вполне разумное исправление. Но что, если решение технически правильное, а пользователь разрешал совсем другое? И кто должен проверять действия агента, прежде чем они превратятся в реальные изменения?В первой статье я рассказывал, как дал ИИ‑агенту доступ к MODX через MCP, а во второй
Основы глубокого обучения. Часть 4
Всем привет! Эта статья является четвёртой в серии статей про основы глубокого обучения. В прошлых трёх частях я рассказал много интересного и полезного новичкам, так что рекомендую перечитать.В этой части мы продолжим работу с нейронной сетью обработки естественного языка (NLP) и реализуем новую сеть, которая будет определять пропущенное слово по остатку фразы.Какие мы имеем результаты с прошлой части?
Nvidia объявила об отставке Дженсена Хуанга с поста генерального директора
Nvidia объявила об отставке Дженсена Хуанга с постов президента, генерального директора и члена совета директоров. Текущий вице‑президент и финансовый директор американской компании Колетт Кресс будет временно исполнять обязанности генерального директора до назначения постоянного преемника. Совет директоров рассмотрит внутренних и внешних кандидатов на пост нового гендира.
Браузерная игра за 2 часа 37 минут: как я разделил работу между Fable 5.2 и Opus 5.5
На днях обсуждали интервью HR‑директора крупной IT‑компании о том, что в сложных решениях она слушает ощущения в теле. В те же дни вышел Fable 5.2. Я решил проверить модель на этом поводе и собрать игру: вымышленная корпорация, собеседование и оффер по натальной карте.От первого сообщения до игры на своём домене прошло 2 часа 37 минут. Ниже разбор: как я делил работу между моделями, как устроен код, где модели ошиблись и что я поправил руками.Игра: Rдкс, собеседование в корпорацию. Проходится за 2–3 минуты, работает в браузере, ничего не отправляет на сервер.Что за игра
