СПбГУ -- 2024.10.10 -- Состязательные примеры, рекуррентные нейронные сети
Это лекция из курса "Глубокое обучение", который читается на Факультете математики и компьютерных наук СПбГУ вместе с двумя другими частями курса машинного обучения -- "Основами байесовского вывода" и "Графическими вероятностными моделями". Все материалы этой и других лекций курса (слайды, доска, ноутбуки с кодом) размещены по адресу: https://logic.pdmi.ras.ru/~sergey/teaching/mlspsu2023.html Разделы: 00:00 Состязательные примеры 39:37 Рекуррентные нейронные сети 45:40 Взрывающиеся градиенты 52:15 Двунаправленные рекуррентные сети 56:00 Затухающие градиенты и карусель константной ошибки 59:48 Конструкция LSTM 01:17:55 Варианты LSTM, GRU, другие идеи 01:27:36 Долгосрочная память в линейных RNN
Это лекция из курса "Глубокое обучение", который читается на Факультете математики и компьютерных наук СПбГУ вместе с двумя другими частями курса машинного обучения -- "Основами байесовского вывода" и "Графическими вероятностными моделями". Все материалы этой и других лекций курса (слайды, доска, ноутбуки с кодом) размещены по адресу: https://logic.pdmi.ras.ru/~sergey/teaching/mlspsu2023.html Разделы: 00:00 Состязательные примеры 39:37 Рекуррентные нейронные сети 45:40 Взрывающиеся градиенты 52:15 Двунаправленные рекуррентные сети 56:00 Затухающие градиенты и карусель константной ошибки 59:48 Конструкция LSTM 01:17:55 Варианты LSTM, GRU, другие идеи 01:27:36 Долгосрочная память в линейных RNN