lstm.
VM упадёт через 30 минут. Можно ли узнать об этом раньше мониторинга?
Предсказываем перегрузку VM за 30 минут: LSTM, численные методы и промышленный контур в Yandex CloudОбычный мониторинг хорошо отвечает на вопрос:что происходит с инфраструктурой прямо сейчас?
Не только PyTorch. О чём на самом деле новая книга Лоуренса Морони
Название новой книги Лоуренса Морони — «
Ищем lateral movement нейросетью, обученной на синтетических данных
Можно ли научить детектор атак, ни разу не показав ему настоящую атаку?Звучит как противоречие. Если хочешь, чтобы нейросеть находила боковое движение, ей вроде бы надо показать боковое движение. Я сделал наоборот: сгенерировал целую корпоративную сеть с её историей входов, устроил в этом выдуманном мире нападение и обучил на нём сети. Ни одной настоящей строки в обучении. Весь мир описан конфигом на 135 строк, каждая сеть весит четыре тысячи параметров и учится за секунды на ноутбуке; лучший результат дали шесть таких сетей, обученных на шести разных выдуманных мирах.
Мы обошли фильтр Калмана на одной камере, но сначала три недели измеряли труп
Цель видна только через камеру, детектор отдает рамку, дальномера нет. В какой-то момент цель уходит из кадра на три четверти секунды, и ее надо продолжать вести вслепую. Классический фильтр Калмана в этой ситуации теряет цель в 84% эпизодов. Наш трекер теряет ее в 18% и возвращает в центр кадра в 80%.трекердержит цель вслепуювозврат в кадртеряет цельклассический фильтр Калмана−0,0322%84%нейросетевой пилот0,4184%8%
Создаем ИИ‑модель для генерации музыки на базе Lakh MIDI Dataset
ВведениеГенерация музыки алгоритмами — давно рабочий инструмент индустрии. Этот сегмент прошел путь от простых цепей Маркова, которые предсказывали вероятности перехода одной ноты в другую, до современных трансформеров, способных выдавать многоканальные аудиозаписи.
Какой подход к предсказанию последовательности стоит выбрать
Всем, привет. Если вы задавались вопросом, как эффективно построить прогноз для последовательности значений (например, для графика), то вам может оказаться полезным мой опыт. Изначально это должен был быть пост, но материал вышел за его рамки, поэтому получилась небольшая статья.Построение прогноза последовательности - это тема отдельной книги, поэтому в своей статье я только слегка коснусь двух подходов:построение прогноза по одной точке, используя цикл;построение прогноза на весь период одним махом.
Как я написал антиспам-бота (TAB) для Telegram на собственной нейросети
Telegram Antispam Bot (TAB)Привет, Хабр!
Фундаментальный разбор: эволюция архитектур нейросетей от перцептрона до трансформера
Доброго времени суток, «Хабр»!Устал я делать разного рода сравнения и составлять топы среди недавно вышедших моделей. Восемь месяцев назад вышла моя статья, рассказывающая о пути, который нейросети проделали от цепей Маркова до современных языковых моделей. Размышляя над старыми материалами, я подумал: а почему бы снова не углубиться в историю и не рассмотреть развитие архитектур моделей?Присаживайтесь поудобнее, а я начинаю свой рассказ, в котором пройду путь от перцептрона до современного трансформера.
Continuous Thought Machine: как Sakana AI научила модель думать тиками
Continuous Thought Machine: как Sakana AI научила модель думать тикамиАналитический центр red_mad_robot продолжает следить за архитектурными прорывами в мире AI. В этот раз — экспериментальная модель от команды Sakana AI
Основы глубокого обучения. Часть 4: Рекуррентный слой. Теория и реализация на torch
ВведениеРекуррентные нейронные сети (RNN) являются мощным инструментом в глубоком обучении для обработки и анализа последовательных данных. RNN в глубоком обучении является ключевым компонентом в обработке таких данных: текст, речь, или временные ряды.Одна из ключевых особенностей RNN — их способность запоминать предыдущие входные данные из внутренней памяти. Каждый нейрон в слое имеет состояние, которое меняется со временем, позволяя сетям хранить информацию о предыдущих входах.
