Machine learning and deep learning notes, practice, formula derivation.

这个项目是我的学习笔记，内容还在完善中。如果遇到图片无法显示，可以下载后查看。

• 基础内容

该部分以《视觉机器学习二20讲》为主线，扩展内容增加公式推导步骤。

• K-means

  • K-means++ 算法
  • ISODATA 算法
  • Kernel K-means
  • 二分K-means聚类

• KNN

• 回归学习

  • 线性回归模型
  • 多项式回归模型
  • 主成分回归模型
  • 自回归模型
  • 核回归模型

• 决策树学习

  • ID3 算法
  • C4.5 算法
  • SLIQ 算法
  • SPRINT 算法

• 贝叶斯学习

  • 朴素贝叶斯模型
  • 层级贝叶斯模型
  • 增广贝叶斯学习模型
  • 基于Boosting技术的朴素贝叶斯模型
  • 贝叶斯神经网络模型

• EM算法

  • EM算法的快速计算
  • 未知分布函数$P_i(y_i)$的选取
  • EM算法收敛性的改进

• 梯度提升算法

  • Boosting
  • Adaboost

• SVM

  • 软间隔
  • 硬间隔
  • 核技巧
  • SMO算法

• 反向传播

• 正则化

• 优化求解算法

• 卷积神经网络

• 序列化模型

  • RNN
  • LSTM
  • GRU

• 优化算法

  • 梯度下降法
  • 动量算法
  • 共轭梯度法
  • 自然梯度法

• 马尔科夫决策过程

• 基于模型的动态规划方法

• 无模型强化学习

  • 蒙特卡洛方法
  • 时间差分方法
  • 异步强化学习算法

• Q-Learning

• DQN及其改进算法

• 2018.7.11日已更新KNN