Giter VIP home page Giter VIP logo

technotrack-nn2021s-lectures's Introduction

Нейронные сети.

Весна 2021.

Преподаватели:

Святослав Елизаров (github)

Михаил Криницкий (RG link, github)

Обратите внимание на правила распространения источников и литературы

Здесь доступна подборка книг издательства Springer, доступных для свободной загрузки, по компьютерным наукам, компьютерному зрению, машинному обучению и науке о данных. Здесь - полный список книг издательства Springer, выложенных в открытый доступ для свободной загрузки.

Материалы занятий

Title Date Topic Content
Лекция 1 04.03.2021 Вводная лекция.
От линейных моделей к нейронным сетям. Часть 1
материалы;
видеозапись
Семинар 1 10.03.2021 Обсуждение ДЗ №1 и его особенностей. видеозапись
Лекция 2 11.03.2021 От линейных моделей к нейронным сетям. Часть 2 материалы;
видеозапись
Семинар 2 15.03.2021 Вывод байесовской регрессии.
Инструменты разработки и исполнения кода: Google colab.
видеозапись
Лекция 3 18.03.2021 Оптимизация нейросетей.
Вычисление градиентов (backpropagation).
материалы;
видеозапись
Семинар 3 22.03.2021 Типичные ошибки в ДЗ №1.
Разбор ДЗ №2 и его особенностей
материалы;
Видеозапись
Лекция 4 25.03.2021 Оптимизация нейросетей.
Методы оптимизации: GD, SGD, Momentum, Nesterov momentum, RMSProp, Adam, Nadam.
материалы;
видеозапись
Семинар 4 29.03.2021 Дифференцирование Softmax, стабилизация вычисления Softmax, практика. Видеозапись
Лекция 5 01.04.2021 Оптимизация нейросетей.
Инициализация. Пакетная нормализация (BatchNorm).
материалы - TBA;
видеозапись

Домашние задания

Title Date issued Deadline Topic Content
ДЗ №1 10.03.2021 15.03.2021 Градиентный спуск своими руками описание и данные
ДЗ №2 22.03.2021 05.04.2021 Многослойный перцептрон своими руками описание

Рекомендуемая литература

(следите за обновлениями!)

  • Николенко С. И., Кадурин А. А., Архангельская Е. О. "Глубокое обучение." / СПб.: Питер. 2019. 480 с. publisher link
  • Гудфеллоу Я., Бенджио И., Курвилль А. "Глубокое обучение." / М.: ДМК Пресс, 2017. 652 c. publisher link
  • Интерактивная онлайн-книга Aston Zhang, Zack C. Lipton, Mu Li, Alex J. Smola "Dive into Deep Learning"

Дополнительные источники

technotrack-nn2021s-lectures's People

Contributors

mkrinitskiy avatar

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.