Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно
Приветствую всех читателей! Эта статья — расширенная версия моего доклада «Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно». На доклад было 40 минут, поэтому многое пришлось сократить до одной фразы на слайде. Здесь я собрал то, что не влезло: примеры кода с исправлениями, подробности инцидентов, ссылки на первоисточники и ответы на вопросы, которые задают после выступления.
Пять способов ускорить локальный инференс MoE-модели: один я написал сам
В предыдущей статье я разбирался, какие эксперты реально живут в VRAM у Strata, пока она крутит Qwen3.8-Flash-Next на GTX 1070. На этот раз - короче и практичнее: несколько конкретных приёмов ускорения, которые стоит проверить, если вы гоняете большую MoE-модель на домашнем железе. Один из них - патч, который я написал и прогнал сам, с цифрами “было/стало” на реальном движке. Остальные - то, что уже работает в Strata “из коробки”, просто не всегда включено и не всегда замечено.1. Спекулятивное декодирование (MTP/drafting)
Бесплатный сигнал кривизны для сэмплеров flow matching: он предсказывает ошибку
Flow-модель рисует картинку, интегрируя обыкновенное дифференциальное уравнение, и каждый шаг стоит прохода через большую сеть. Многошаговый сэмплер вроде Адамса-Башфорта и так хранит предыдущую скорость. Косинус между старой и новой скоростью получается бесплатно. Если он близок к 1, траектория прямая и шаг можно увеличить. Если направление резко меняется, шаг нужно дробить.Я хотел превратить эту идею в строгую теорию и проверить её на настоящей модели. Результат вышел менее аккуратным, чем идея, так что отчасти это рассказ о том, какая половина идеи выжила.Коротко:
Google открыл доступ к Gemini 4 Carbon: модель в 2–6 раз дешевле, чем Fable 5.2
Gemini 4 Carbon – флагманская ИИ-модель Google DeepMind, открытая для всех 10 ноября 2026 года. Модель специализируется на длинных агентных задачах: сложном программировании, кибербезопасности и научных исследованиях.В этом разборе – чем Carbon отличается от Gemini 4 Argon, что такое режим /swarm и как попробовать нейросеть из России без VPN и подписки за $100.
Пространственное внимание на RTX 3050: эксперимент с контекстом 16K
Можно ли ускорить обучение небольшой языковой модели на длинных последовательностях, если заменить полное внимание разреженным графом, а веса связей определять расстояниями между обучаемыми координатами?Для проверки появился SpatialLM-Mini — прототип на Python и PyTorch с тремя архитектурами: пространственным вниманием, обычным Transformer и гибридом. На RTX 3050 с 8 ГБ VRAM пространственный вариант обучался в 2,47 раза быстрее нашего Transformer при контексте 16 384 токена. Но он использовал больше выделенной памяти, а отдельную пользу геометрии этот опыт пока не доказывает.
Личная медицинская история на основе ИИ‑модели
Готовимся к врачуВ статье рассматривается подход к организации собственной медицинской истории с помощью ИИ‑модели. Разберём, как можно организовать хранение и обработку медицинских документов, какие возможности при этом появляются и какие ограничения необходимо учитывать.
Революция ИИ, которой пока так и не произошло
Последние несколько лет от ведущих технологических корпораций и их владельцев часто слышишь о грядущей трансформации мировой экономики благодаря революции ИИ. В течение всего 2025 года нас регулярно предупреждали о катастрофических изменениях рынка труда, а Амодей тогда
ИИ для врача травматолог-ортопеда
(Возможно для врача любой специальности)Увидела рилс в запрещённой соцсети, как мужчина вдохновился созданием ИИ, смотря на жену-врача, которая занимается рутиной заполнения карт после работы. Я задумалась, как можно было бы применить ИИ для конкретного врача, и на примере разберу рутину травматолога-ортопеда. При этом я не углублялась в рутину хирурга-травматолога и исхожу из того, что пациент может быть как по ОМС, по ДМС, а также платным (по договору оказания платных медицинских услуг). Это хорошая отправная точка, но дальше начинается много «но».ИИ для помощи в записи анамнеза
