Преподаватели:
Михаил Криницкий (RG link, github)
Обратите внимание на правила распространения источников и литературы
Здесь доступна подборка книг издательства Springer, доступных для свободной загрузки, по компьютерным наукам, компьютерному зрению, машинному обучению и науке о данных. Здесь - полный список книг издательства Springer, выложенных в открытый доступ для свободной загрузки.
Title | Date | Topic | Content |
---|---|---|---|
Лекция 1 | 04.03.2021 | Вводная лекция. От линейных моделей к нейронным сетям. Часть 1 |
материалы; видеозапись |
Семинар 1 | 10.03.2021 | Обсуждение ДЗ №1 и его особенностей. | видеозапись |
Лекция 2 | 11.03.2021 | От линейных моделей к нейронным сетям. Часть 2 | материалы; видеозапись |
Семинар 2 | 15.03.2021 | Вывод байесовской регрессии. Инструменты разработки и исполнения кода: Google colab. |
видеозапись |
Лекция 3 | 18.03.2021 | Оптимизация нейросетей. Вычисление градиентов (backpropagation). |
материалы; видеозапись |
Семинар 3 | 22.03.2021 | Типичные ошибки в ДЗ №1. Разбор ДЗ №2 и его особенностей |
материалы; Видеозапись |
Лекция 4 | 25.03.2021 | Оптимизация нейросетей. Методы оптимизации: GD, SGD, Momentum, Nesterov momentum, RMSProp, Adam, Nadam. |
материалы; видеозапись |
Семинар 4 | 29.03.2021 | Дифференцирование Softmax, стабилизация вычисления Softmax, практика. | Видеозапись |
Лекция 5 | 01.04.2021 | Оптимизация нейросетей. Инициализация. Пакетная нормализация (BatchNorm). |
материалы - TBA; видеозапись |
Title | Date issued | Deadline | Topic | Content |
---|---|---|---|---|
ДЗ №1 | 10.03.2021 | 15.03.2021 | Градиентный спуск своими руками | описание и данные |
ДЗ №2 | 22.03.2021 | 05.04.2021 | Многослойный перцептрон своими руками | описание |
(следите за обновлениями!)
- Николенко С. И., Кадурин А. А., Архангельская Е. О. "Глубокое обучение." / СПб.: Питер. 2019. 480 с. publisher link
- Гудфеллоу Я., Бенджио И., Курвилль А. "Глубокое обучение." / М.: ДМК Пресс, 2017. 652 c. publisher link
- Интерактивная онлайн-книга Aston Zhang, Zack C. Lipton, Mu Li, Alex J. Smola "Dive into Deep Learning"
Дополнительные источники
-
Флах П. "Машинное обучение. Наука и искусство построения алгоритмов, которые извлекают знания из данных." / Флах П. М.: ДМК Пресс, 2015. 400 c. publisher link
-
Шай Шалев-Шварц, Шай Бен-Давид "Идеи машинного обучения." / - М.: ДМК Пресс, 2018. 432 c.
-
Hastie T., Tibshirani R., Friedman J. "The Elements of Statistical Learning: Data Mining, Inference, and Prediction, Second Edition" / T. Hastie, R. Tibshirani, J. Friedman, 2-е изд., New York: Springer-Verlag, 2009.
Перевод на русский язык: (Фридман Дж., Хасти Т., Тибширани Р. "Основы статистического обучения")
-
Bishop C. "Pattern Recognition and Machine Learning" / C. Bishop, New York: Springer-Verlag, 2006. Доступна для легального скачивания.
Перевод на русский язык: Бишоп К.М. "Распознавание образов и машинное обучение"
-
Matrix cookbook - справочник по соотношениям в матричной форме
-
Курс лекций К.В. Воронцова:
-
Курс лекций Л.М. Местецкого "Математические методы распознавания образов"
-
Препринт книги Cosma Rohilla Shalizi "Advanced Data Analysis from an Elementary Point of View". Доступен онлайн.
-
James G., Witten D., Hastie T., Tibshirani R., 2013. "An Introduction to Statistical Learning: with Applications in R", Springer Texts in Statistics. Springer-Verlag, New York. Книга доступна для скачивания.