gru.
LSWM 2.0 is all you need
Снова всем привет!Прошло всего несколько дней с того момента как я выложил LSWM .В общем я протестировал и поэкспериментировал эту сеть ещё раз и нашёл СТОЛЬКО проблем, сколько даже ванильный RNN не видел.В этой статье я попытаюсь их исправить.Содержание.В этой статье будет:Теория.Бенчмарки.Плюсы и минусы.Вывод.Теория.Начнем с теории.Хочу сказать - тут будут те же softsign и scaled softsign .И так... Начнём с первой формулы:Что такое
Моя собственная Gated RNN: как работает? (и бенчмарки, конечно же)
Всем привет!Не давно сделал свою Gated RNN, то есть с другой математикой, ни как у LSTM, GRU и подобного.Я хочу (для вас) разобрать её теоретически, практически, замерить (я не умею замерять так что буду замерять как могу), ну и конечно же расскажу плюсы и минусы.То, что будет в статье.Э-э-э, плохое название для заголовка, но вот те заголовки которые вы сейчас будете встречать (в правильном порядке):Теория.Практика (без замеров).Бенчмаркинг.Плюсы и минусы моей сети.Вывод.Это моя первая статья похожая на реально научную, так что могут быть недочёты.Теория.
Метрика стала хуже на 20%, и вот почему так правильно
Мы прогнозируем загруженность московских парковок на сутки вперёд. В скрипте, который обучает модель, лежал такой список:# --- Список аномальных парковок (замороженные > 24ч, exclude from training) --- ANOMALOUS_PARKING_IDS = [7, 8, 11, 12, 14, 21, 24, 31, 32, 37, 47, 49, 50, 51, 52, 53, 54, 56, 58, 61, 66, 70, 72, 81, 82, 84, 95, 100, 106, 113, 121, 122, 128, 133, 134, 136, 146, 149, 162] Тридцать девять парковок, которые год назад отдавали одно и то же значение сутками. Логика понятная: на замороженном ряде модель учится предсказывать константу, поэтому такие парковки из обучения убрали.
VM упадёт через 30 минут. Можно ли узнать об этом раньше мониторинга?
Предсказываем перегрузку VM за 30 минут: LSTM, численные методы и промышленный контур в Yandex CloudОбычный мониторинг хорошо отвечает на вопрос:что происходит с инфраструктурой прямо сейчас?
