Франкенштейн на 30 ГБ RAM: Как мы пересадили мозг Gemma в скелет DeepSeek и сломали Transformers
У нас было две бесплатные видеокарты T4 в Kaggle, 30 ГБ оперативной памяти и безумная идея: что будет, если взять веса классической модели (Gemma-4-31B) и хирургическим путем, без всякого дообучения, вшить их в MoE-архитектуру (DeepSeek-V4)? В академической среде вам скажут, что это невозможно: разные размерности, несовместимые слои нормализации, разные принципы роутинга токенов. Но в парадигме Ghetto MLOps нет слова «невозможно». Есть только вопрос: сколько костылей потребуется, чтобы это скомпилировалось?
Новую LLM talkie обучили на текстах до 1931 года
Трое ИИ-исследователей, включая Алека Редфорда (соавтора GPT 1.0), опубликовали новую языковую модель talkie с 13 миллиардами параметров. Она обучена исключительно на текстах, опубликованных до 1931 года, так что и знания о мире у неё заканчиваются этим годом, и в стилистике текста она отталкивается от старых источников. Пообщаться с ней можно на официальном сайте.Создатели модели отмечают, что она полезна в различных исследовательских целях:
Как свёрточные нейронные сети видят мир
Привет, Хабр! Меня зовут Яна Вольнова, я ex-разработчик систем распознавания образов, а сейчас преподаю глубокое машинное обучение в МГТУ им. Н.Э. Баумана и пишу курсы для Яндекс Практикума, например, «Инженер по глубокому обучению нейросетей» и «Компьютерное зрение — CV»
Свой шагоход? Свой шагоход…
Ладно… Чувствуется, что никто кроме меня вас об этом не спросит, поэтому, придётся мне: хотели ли бы вы свою собственную избушку на курьих ножках? :-B Не-не-не Баба-Яга может расслабиться: мы ни в коем разе не претендуем на её рабочее место — а всего лишь хотим приглядеться к её инженерному шедевру: довольно недурная так то штука: самый исторически первый пример шагохода, между прочим! Чем же для нас может интересна эта небезызвестная изба: исключительно своими ходовыми качествами, возможностью «уверенно перемещаться по пересечённой местности» и доставлять полезные грузы, в лице одной не особо приятной бабки.
Топ локальных нейросетей ︎◍ 2026: подборка ИИ для запуска из дома
Сознаюсь: когда я впервые попытался запустить большую языковую модель на своём ноутбуке, всё закончилось вертушкой кулера, жутким лагом и системным сообщением “Недостаточно памяти”. Казалось, что домашний ИИ –
Железо & игры: собираем игровой ПК в условиях дефицита памяти
В ЛАНИТ киберспорт – это полноценная часть корпоративной культуры: наши коллеги регулярно выступают на турнирах и знают толк в хорошем железе. Однако следить за ситуацией с компонентами сейчас непросто, поскольку она постоянно меняется. К примеру, в последнее время рынок оперативной памяти начал разрушаться из-за бума искусственного интеллекта: DDR5 32 ГБ по огромной цене, 70% мирового производства DRAM уходит дата-центрам, а прогнозы нормализации отодвигаются к 2028 году. Стало ясно, что надо искать решения прямо сейчас. В этом материале расскажем, как собрать игровой персональный компьютер мечты в эпоху дефицита железа.
Вообще, кажется, сейчас начинается золотое время в IT
В каком-то смысле у всех снова обнулился опытИ мы опять заходим в новый виток развития. Я уже видел что-то похожее в прошлый раз, когда информации почти нигде не было, все учились дома сами, через эксперименты, и программисты ещё не были так жёстко разобраны на классификации. Тогда было много универсалов, которые понимали всё через личный опыт. И тогда реально решала именно экспертиза.
Samsung может выпустить очки Galaxy Glasses без экрана
Согласно сообщениям инсайдеров, следующим продуктом Samsung на базе Android XR станут умные очки под кодовым названием «Jinju», которые, как ожидается, будут выпущены без дисплея. Также компания разрабатывает премиальную версию под кодовым названием «Haean» с микро-LED дисплеем.
Matplotlib для самых маленьких: от пустого окна до красивого графика
1. ВведениеЗнакомство с визуализацией данных на Python почти всегда начинается с Matplotlib. И чаще всего это знакомство приносит боль.Открываешь официальную документацию — перед тобой неповоротливый монстр. Идешь за быстрым решением на StackOverflow — и запутываешься окончательно. В одном ответе пишут plt.plot(), в другом используют какой-то ax.plot(). Почему синтаксиса два? Какой из них правильный? В итоге нужный график собирается методом Франкенштейна из кусков чужого кода, а малейшая попытка поменять цвет или добавить вторую ось всё ломает.
