Как я загрузил компактную открытую LLM в робота и сказал ему ходить (и хватать)
Без лишних предисловий приступаем. Все артефакты: веса на Hugging Face и исходники на Codeberg, как обычно будет приложены в конце статьи. О чем статья?
Папа Римский создал рабочую группу по ИИ. В Ватикане сравнивают технологию с новой промышленной революцией
Папа Лев XIV создал внутреннюю рабочую группу по искусственному интеллекту — об этом
Память дала AI-агенту прошлое. Solo Kanban даёт ему настоящее
В какой-то момент я заметил неприятную вещь: AI помогает писать код быстрее, чем я успеваю удерживать контекст работы.Задача начиналась как «поправить маленький баг», через час превращалась в несколько файлов, пару идей на потом и вопрос: «А мы вообще это уже проверили?» Код вроде написан. Diff вроде разумный. Но почему именно так? Какие варианты мы отбросили? Что обещали не трогать? Какие проверки обязательны? Где теперь лежат follow-ups?Проблема была не в том, что AI плохо пишет код. Проблема была в том, что delivery жил в чате. Scope, решения, проверки и хвосты оставались в диалоге, а репозиторий видел только финальный diff.
Тихий убийца Трансформеров: как Weight Decay уничтожает эмбеддинги и нормализацию
У каждого из нас есть "мышечная память" при написании кода обучения нейросетей. Мы собираем архитектуру, а затем пишем примерно такую строчку, даже не задумываясь: optimizer = torch.optim.AdamW(model.parameters(), lr=1e-4, weight_decay=0.1)Weight Decay (L2-регуляризация) это база. Мы знаем, что он тянет веса к нулю, не дает отдельным нейронам "зазвездиться" и предотвращает переобучение. Для линейных слоев (W * X) это работает великолепно. Но Трансформер состоит не только из матриц W. В нем есть специфические слои, для которых Weight Decay это не лекарство от переобучения, а тихий убийца
Трудности перевода
Начну с небольшого вступления. Дорогие коллеги, хочу донести до вас не очень приятное известие. Наши мозги нас обманывают. В этом нет злого умысла - просто они так устроены. Сформировавшийся у нас абстрактно-логический тип мышления оперирует образами. При этом образы не являются объектами реальности. Они только отражают реальность, причем не всегда корректно. Огромная часть образов лежит в подсознании, и мы можем только догадываться об их существовании. Но, даже в скрытом состоянии, они оказывают влияние на нашу деятельность.
AI-агенты в разработке: как Cursor, Claude Code и агентный подход меняют работу программиста
AI-агенты — одна из самых спорных тем в разработке. Одни видят в них следующий шаг после Copilot и способ быстрее закрывать рутину. Другие — источник технического долга, проблем с безопасностью и ещё одну волну завышенных ожиданий вокруг AI.В этой статье разберём, как устроен агентный подход, как работают популярные инструменты Cursor и Claude Code и что важно знать для работы с агентами.Помогали с написанием статьи:
Геометрия Attention: почему QK Norm это не просто костыль для стабильности, а способ заставить сеть понимать смысл
Привет, Хабр! Если вы следите за архитектурами современных LLM (например, LLaMA или Gemma), вы могли заметить одну маленькую, но важную деталь, которая стала стандартом де-факто - QK Norm (Query-Key Normalization). В официальных пейперах её использование объясняют сухим математическим языком: при масштабировании моделей скалярные произведения Q * Kt начинают неконтролируемо расти, Softmax превращается в единичный вектор (one-hot), градиенты затухают, и обучение разваливается. Нормализация решает эту проблему численной стабильности.
ИИ в строительстве: с чего начать внедрение
Строительная отрасль всё активнее смотрит в сторону искусственного интеллекта: стройка — это сложный процесс с большим количеством людей, подрядчиков, техники, сроков, рисков и отклонений от плана. Поэтому цифровизация — логичный шаг, который упрощает и ускоряет все процессы в отрасли. Этот путь практичнее начать не с масштабной цифровой трансформации, а с конкретной задачи бизнеса. Наш пример — видеомониторинг строительной площадки с применением ИИ.Сферы применения ИИ в строительстве
«Продай мне этот космолёт» или история любви к симуляторам. От космосима X-Tension до ActorModel-DoD-ECS архитектуры. Ч2
«Все модели неправильны. Некоторые из них полезны.» — Джордж Бокс «Через тернии к звездам»
