lswm.
LSWM 2.0 is all you need
Снова всем привет!Прошло всего несколько дней с того момента как я выложил LSWM .В общем я протестировал и поэкспериментировал эту сеть ещё раз и нашёл СТОЛЬКО проблем, сколько даже ванильный RNN не видел.В этой статье я попытаюсь их исправить.Содержание.В этой статье будет:Теория.Бенчмарки.Плюсы и минусы.Вывод.Теория.Начнем с теории.Хочу сказать - тут будут те же softsign и scaled softsign .И так... Начнём с первой формулы:Что такое
