lstm.
Создаем ИИ‑модель для генерации музыки на базе Lakh MIDI Dataset
ВведениеГенерация музыки алгоритмами — давно рабочий инструмент индустрии. Этот сегмент прошел путь от простых цепей Маркова, которые предсказывали вероятности перехода одной ноты в другую, до современных трансформеров, способных выдавать многоканальные аудиозаписи.
Какой подход к предсказанию последовательности стоит выбрать
Всем, привет. Если вы задавались вопросом, как эффективно построить прогноз для последовательности значений (например, для графика), то вам может оказаться полезным мой опыт. Изначально это должен был быть пост, но материал вышел за его рамки, поэтому получилась небольшая статья.Построение прогноза последовательности - это тема отдельной книги, поэтому в своей статье я только слегка коснусь двух подходов:построение прогноза по одной точке, используя цикл;построение прогноза на весь период одним махом.
Как я написал антиспам-бота (TAB) для Telegram на собственной нейросети
Telegram Antispam Bot (TAB)Привет, Хабр!
Фундаментальный разбор: эволюция архитектур нейросетей от перцептрона до трансформера
Доброго времени суток, «Хабр»!Устал я делать разного рода сравнения и составлять топы среди недавно вышедших моделей. Восемь месяцев назад вышла моя статья, рассказывающая о пути, который нейросети проделали от цепей Маркова до современных языковых моделей. Размышляя над старыми материалами, я подумал: а почему бы снова не углубиться в историю и не рассмотреть развитие архитектур моделей?Присаживайтесь поудобнее, а я начинаю свой рассказ, в котором пройду путь от перцептрона до современного трансформера.
Continuous Thought Machine: как Sakana AI научила модель думать тиками
Continuous Thought Machine: как Sakana AI научила модель думать тикамиАналитический центр red_mad_robot продолжает следить за архитектурными прорывами в мире AI. В этот раз — экспериментальная модель от команды Sakana AI
Основы глубокого обучения. Часть 4: Рекуррентный слой. Теория и реализация на torch
ВведениеРекуррентные нейронные сети (RNN) являются мощным инструментом в глубоком обучении для обработки и анализа последовательных данных. RNN в глубоком обучении является ключевым компонентом в обработке таких данных: текст, речь, или временные ряды.Одна из ключевых особенностей RNN — их способность запоминать предыдущие входные данные из внутренней памяти. Каждый нейрон в слое имеет состояние, которое меняется со временем, позволяя сетям хранить информацию о предыдущих входах.
Первая ИИ-модель для обучения на тексте
Привет, будущие разработчики! Сегодня я расскажу вам, как создать свою первую модель искусственного интеллекта. Это совсем для начинающих, так что не переживайте — никаких сложных терминов и запутанных выражений. Всё, что понадобится, — ваши идеи и немного кода. Будем писать на Python и использовать TensorFlow — мощную библиотеку от Google для машинного обучения. Почему Python, TensorFlow и как начать работу в Google ColabЕсли спросить, почему так часто для работы над ИИ выбирают Python
