跳到主要内容

方法分类

机器学习

目标是预测、分群或从文本抽特征时用机器学习,并交代训练集与过拟合。

Apriori 关联规则

用于在大规模数据集中挖掘频繁项集并提取事物间的强关联规则(如购物篮分析)。

BP 神经网络预测

经典的深度学习回归模型,适用于捕捉极其复杂的非线性数据映射关系。

K-Means 聚类分析

一种无监督学习算法,将数据点划分为K个具有相似特征的簇。

随机森林特征重要性

基于随机森林算法,评估并筛选对目标变量影响最大的核心特征。

SHAP 模型解释

基于博弈论的机器学习模型可解释性分析,量化各特征对预测结果的贡献度。

文本挖掘与情感分析

对非结构化的长文本数据进行智能分词、词频统计、词云构建及情感倾向打分。

分层聚类

用凝聚层次方法逐步合并样本,输出树状图以决定簇数。

密度聚类

按密度连通发现任意形状簇,并能把稀疏点标为噪声。

二阶聚类

先预聚类再层次合并,可同时处理连续与分类变量并自动建议簇数。

线性判别

在已知组别下寻找线性判别函数,用于分类与看哪些变量区分组别。

决策树分类

用可解释的规则树对定类标签分类,并给出特征分裂路径。

随机森林分类

多棵随机决策树投票分类,提高稳定性和抗过拟合能力。

adaboost分类

串行提升弱分类器,提高被分错样本的权重以降低整体误差。

梯度提升树(GBDT)分类

按损失函数负梯度逐棵拟合残差,得到高精度的树集成分类器。

CatBoost分类

对类别特征友好的梯度提升分类,减少编码泄漏并提升默认效果。

ExtraTrees分类

在随机森林基础上进一步随机选择分裂点,加快训练并增加多样性。

K近邻(KNN)分类

按特征空间中最近的K个邻居的多数类预测新样本类别。

支持向量机(SVM)分类

在高维特征空间寻找最大间隔超平面,用核函数处理非线性分类。

XGBoost分类

带正则与二阶梯度的提升树分类,广泛用于表格数据高精度预测。

LightGBM分类

基于直方图与叶生长的快速梯度提升分类,适合大样本宽表。

朴素贝叶斯分类

在特征条件独立假设下用贝叶斯定理估计类别后验概率。

逻辑回归(梯度下降法)

用梯度下降估计逻辑回归参数,便于大样本与正则化分类。

决策树回归

用回归树把特征空间切成区间,叶节点预测均值为连续结局。

随机森林回归

多棵回归树平均预测,降低方差并给出特征重要性。

adaboost回归

提升多个弱回归器,自适应加大残差大的样本权重。

梯度提升树(GBDT)回归

逐棵拟合残差的提升树回归,对结构化数据预测精度高。

ExtraTrees回归

随机分裂阈值的树集成回归,训练快、方差较低。

CatBoost回归

对类别特征友好的提升树回归,减少预处理成本。

K近邻(KNN)回归

用最近K个邻居的Y均值(或加权均值)作为连续预测。

支持向量机(SVR)回归

在ε管道内用支持向量做非线性连续预测。

XGBoost回归

正则化提升树回归,表格数据连续预测的常用高精度模型。

LightGBM回归

高速直方图提升树回归,适合大样本连续预测。

线性回归(梯度下降法)

用梯度下降估计线性回归权重,面向大样本与机器学习评估流程。