机器学习-框架

机器学习框架

机器学习分类

参数学习与非参数学习

参数学习(parametric learning algorithm)是指有固定一组参数，通过监督学习算法的数据不断优化。

非参数学习(non-parametric learning algorithm)是指参数的数量不定，会随着数据量规模的变化而线性变化。

普通的线性回归属于参数学习算法；而局部加权线性回归（LWLR）属于非参数学习算法。

三类机器学习算法

监督学习：各种回归，决策树，随机森林，LNN，

无监督学习：K-means，Apriori

强化学习：马尔科夫决策过程（MDP）

常用机器学习算法

1. Linear Regression
2. Logistic Regression
3. Decision Tree
4. SVM
5. Naive Bayes
6. kNN
7. K-Means
8. Random Forest
9. Dimensionality Reduction Algorithms
10. Gradient Boosting algorithms
    1. GBM
    2. XGBoost
    3. LightGBM
    4. CatBoost

• 线性回归算法 Linear Regression
• 支持向量机算法 (Support Vector Machine,SVM)
• 最近邻居/k-近邻算法 (K-Nearest Neighbors,KNN)
• 逻辑回归算法 Logistic Regression
• 决策树算法 Decision Tree
• k-平均算法 K-Means
• 随机森林算法 Random Forest
• 朴素贝叶斯算法 Naive Bayes
• 降维算法 Dimensional Reduction
• 梯度增强算法 Gradient Boosting