рекуррентная нейросеть.

Основы глубокого обучения. Часть 4

Всем привет! Эта статья является четвёртой в серии статей про основы глубокого обучения. В прошлых трёх частях я рассказал много интересного и полезного новичкам, так что рекомендую перечитать.В этой части мы продолжим работу с нейронной сетью обработки естественного языка (NLP) и реализуем новую сеть, которая будет определять пропущенное слово по остатку фразы.Какие мы имеем результаты с прошлой части?

продолжить чтение

Основы глубокого обучения. Часть 3

Всем привет! Эта статья является третьей в серии статей про основы глубокого обучения. В прошлых двух частях я рассказал много интересного и полезного новичкам, так что рекомендую перечитать. В этой части мы разберём подробнее задачи связанные с обработкой естественного языка (NLP) и реализуем двухслойную нейронную сеть классификации текста.Разберём, что подразумевает под собой область ИИ под названием обработка естественного языкаКакие задачи решает NLP?Эта область посвящена автоматизированному изучению человеческого языка (не обязательно с использованием именно глубокого обучения).

продолжить чтение

OpenAI разрабатывает функцию автоматического отключения ИИ‑систем

OpenAI сообщила Палате представителей США, что её инженеры разрабатывают «автоматические возможности отключения» для систем ИИ.

продолжить чтение

Параллельность RNN?

Смотрели итоги прошедшего ICLR? Меня заинтересовала довольно провокационная, на первый взгляд, статья от Эплов — ParaRNN. Казалось бы, параллельность РНН — это их главный недостаток, благодаря которому их заменили трансформеры (в большинстве задач).Так вот, давайте разберемся со всем, на максимально низком уровне, если знаете, что такое RNN и производная — то эта статья для вас.1. Алгоритм DEERDEER = Deep Equilibrium Evaluation of Recurrence (Lim et al., 2024). Базовый алгоритм, на котором строится ParaRNN.1.1. Постановка как задача нахождения корня

продолжить чтение

ИИ генерирует длинные видео: возможное решение проблемы вычислительных требований

Исследователи разработали метод создания более длинных и связных видеороликов с искусственным интеллектом, которые рассказывают сложные истории.

продолжить чтение