机器学习模型可以按照不同的类别进行分类。以下是一些常见的机器学习模型:
1. 监督学习模型
-
回归模型:
- 线性回归 (Linear Regression)
- 岭回归 (Ridge Regression)
- 套索回归 (Lasso Regression)
- 多项式回归 (Polynomial Regression)
- 弹性网回归 (Elastic Net Regression)
-
分类模型:
- 逻辑回归 (Logistic Regression)
- K-近邻算法 (K-Nearest Neighbors, KNN)
- 支持向量机 (Support Vector Machine, SVM)
- 朴素贝叶斯 (Naive Bayes)
- 高斯朴素贝叶斯 (Gaussian Naive Bayes)
- 多项式朴素贝叶斯 (Multinomial Naive Bayes)
- 伯努利朴素贝叶斯 (Bernoulli Naive Bayes)
- 决策树 (Decision Tree)
- 随机森林 (Random Forest)
- 梯度提升决策树 (Gradient Boosted Decision Trees, GBDT)
- XGBoost
- LightGBM
- CatBoost
- 神经网络 (Neural Network)
- 多层感知器 (Multilayer Perceptron, MLP)
2. 无监督学习模型
-
聚类模型:
- K均值聚类 (K-Means Clustering)
- 层次聚类 (Hierarchical Clustering)
- 均值漂移聚类 (Mean Shift Clustering)
- DBSCAN (Density-Based Spatial Clustering of Applications with Noise)
- 高斯混合模型 (Gaussian Mixture Model, GMM)
-
降维模型:
- 主成分分析 (Principal Component Analysis, PCA)
- 奇异值分解 (Singular Value Decomposition, SVD)
- 独立成分分析 (Independent Component Analysis, ICA)
- 线性判别分析 (Linear Discriminant Analysis, LDA)
- t-SNE (t-distributed Stochastic Neighbor Embedding)
- UMAP (Uniform Manifold Approximation and Projection)
-
关联规则学习:
- Apriori
- Eclat
3. 半监督学习模型
- 自编码器 (Autoencoder) 与深度生成模型
- 半监督SVM
4. 强化学习模型
-
值函数法:
- Q学习 (Q-Learning)
- 深度Q网络 (Deep Q-Network, DQN)
-
策略梯度法:
- REINFORCE
- Actor-Critic
- 深度确定性策略梯度 (Deep Deterministic Policy Gradient, DDPG)
- 近端策略优化 (Proximal Policy Optimization, PPO)
- 信赖区域策略优化 (Trust Region Policy Optimization, TRPO)
-
模型自由强化学习方法:
- 蒙特卡洛树搜索 (Monte Carlo Tree Search, MCTS)
5. 集成学习模型
-
Bagging(袋装法):
- 随机森林 (Random Forest)
- Bagged Decision Trees
-
Boosting(提升法):
- AdaBoost
- 梯度提升机 (Gradient Boosting Machine, GBM)
- XGBoost
- LightGBM
- CatBoost
-
Stacking(堆叠法):
- 堆叠泛化模型 (Stacked Generalization Models)
6. 神经网络与深度学习模型
-
前馈神经网络:
- 多层感知器 (Multilayer Perceptron, MLP)
-
卷积神经网络 (Convolutional Neural Network, CNN):
- LeNet
- AlexNet
- VGGNet
- ResNet (Residual Network)
- Inception Network (GoogLeNet)
- EfficientNet
-
循环神经网络 (Recurrent Neural Network, RNN):
- 长短期记忆网络 (Long Short-Term Memory, LSTM)
- 门控循环单元 (Gated Recurrent Unit, GRU)
- 双向LSTM (Bidirectional LSTM)
-
生成模型:
- 自编码器 (Autoencoder)
- 生成对抗网络 (Generative Adversarial Network, GAN)
- DCGAN (Deep Convolutional GAN)
- CycleGAN
- StyleGAN
- 变分自编码器 (Variational Autoencoder, VAE)
-
图神经网络 (Graph Neural Network, GNN):
- 图卷积网络 (Graph Convolutional Network, GCN)
- 图注意力网络 (Graph Attention Network, GAT)
-
注意力模型和转换器:
- Transformer
- BERT (Bidirectional Encoder Representations from Transformers)
- GPT (Generative Pre-trained Transformer)
7. 贝叶斯模型
- 贝叶斯线性回归 (Bayesian Linear Regression)
- 高斯过程回归 (Gaussian Process Regression)
- 隐马尔可夫模型 (Hidden Markov Model, HMM)
8. 特征选择与工程方法
- 主成分分析 (Principal Component Analysis, PCA)
- 特征选择算法(如递归特征消除,RFE)