跳到主要内容

预测模型

偏最小二乘回归

先抽出与因变量协方差最大的潜变量,再在低维成分上回归,用来对付列很多或列与列几乎共线的定量预测。

更新日期 2026-08-29 回归

这篇能回答什么

偏最小二乘回归(PLSR)回答的是:「X 又多又缠在一起时,怎样压成少数几个同时看见 Y 的成分,再做预测」。普通最小二乘直接在原始列上求斜率,p 接近 n 或列相关很高时,X′X 病态,系数乱跳。PLS 先找权重 w,让潜变量 t=Xw 与 Y 的协方差尽量大,再把 Y 回归到这些 t 上。它和只压缩 X、完全不理 Y 的主成分综合评价不是同一件事;也不是问卷结构方程里的 PLS-SEM。

教学结果不给成分的 t / F——那些列不存在,不要自己补。主表按第一潜变量得分分成三箱:负向尾 41 人(15.13%)、正向尾 40 人(14.76%)、中段 190 人(70.11%),完整个案 271。两尾几乎对称,七成个案挤在 |t₁| 靠近 0 的中段,这是标准化潜变量常见的肚子大、尾巴瘦,不是「第一成分已经解释了 70% 的 Y」。

什么时候不该用

X 只有两三列、相关也不高、你要的是带标准误的斜率,用线性回归。共线但每列都必须留在式子里、又不想走潜变量,用岭回归。只要稀疏地关掉原始列,用Lasso回归。Y 是是否及格时改逻辑或 Probit,不要对 0/1 做 PLS 线性。

如何选择方法

先数清 X 的列数和缠绕程度。列少、条件好 → OLS。列多或光谱/量表高度重叠、目标是预测 Y → PLS。要在原始尺度上收缩、成分不登场 → 岭。要自动删列 → Lasso。只要给对象打一个综合分、没有「预测某一列 Y」 → PCA 打分。

  • 偏最小二乘回归:1 个定量 Y,多个可共线的定量 X;输出潜变量得分箱占用、成分数与预测读法。

  • OLS:列少且可逆时直接给 B 与 VIF。

  • 岭回归:原始列全部留下,L2 收缩,不提取 t。

  • PCA 打分:只分解 X,综合分不是对指定 Y 的回归。

输入、输出与限制

输入

因变量 1 个定量列。自变量至少 2 个定量列,列之间允许高度相关,也允许列数接近甚至暂时超过完整个案数(光谱、问卷条目)。按这些列成表删除缺失。定类请先哑元化。

  • 自变量:最少 2 个定量列,可共线、可高维。

  • 因变量:最少 1 个,最多 1 个(定量)。

输出

主表按 LV1 得分箱清点人数与占比。本例负向尾 41、正向尾 40、中段 190,N=271。图画得分沿样本的分布或预测对照。没有 t 值列,没有 F 值列,不要把占用表改造成方差分析。

产品限制

  • 完整个案以成表删除为准,本页 271,不要拿全表行数去对。

  • 类别 A/B/C 是得分箱标签,不是年级、性别或簇号。

  • 中段占比 70.11% 不是 R²,也不是 VIP。

  • 成分个数由交叉验证或预设维数决定;本页只展示第一潜变量的占用。

  • 编号列不要当 X。

案例

研究问题。 定量成绩表上语文、英语与若干相关学业列一起预测数学成绩。这些 X 彼此重叠,直接 OLS 时斜率会抢同一块变异。研究者改用 PLS:先抽与数学协方差最大的潜变量,再看学生落在第一成分的哪一段。

教学示例工作表为「Sheet1」。自变量勾选语文成绩、英语成绩等定量列(至少两列),因变量勾选数学成绩。成表删除后留下 271 个完整个案。LV1 负向尾 41(15.13%)、正向尾 40(14.76%)、中段 190(70.11%)。两尾人数只差 1,中段是主体。下载后按同样角色复现占用表。

下载教学示例表(定量成绩)

在 StatsX 中操作

  1. 步骤 1 · 上传成绩表

    把定量成绩 xlsx / CSV / JSON 拖进工作台。确认工作表为「Sheet1」。单文件不超过 20 MB。

  2. 步骤 2 · 认清共线的定量列

    画像里语文、数学、英语应为定量。不要把学号拖进自变量。若年级是定类,先做成哑元再进 X,或先不要它。

  3. 步骤 3 · 搜索「偏最小二乘」

    目录输入 PLS 或「偏最小二乘」。卡片强调潜变量与预测,不要点成主成分打分或岭回归。

  4. 步骤 4 · 多列 X 对一列 Y

    自变量勾选语文、英语等至少两列;因变量勾选数学成绩。运行分析。

  5. 步骤 5 · 按三箱人数收尾

    先核合计是否 271。再看 A/B 是否仍约 41、40,C 是否约 190。不要在表里寻找本页没有的 t 或 F,也不要把 70.11% 写成方差解释率。

StatsX 工作台上传定量成绩表
把教学示例表拖进上传区。
列画像确认语数英为定量
确认成绩列为定量,标识列不进入。
在目录中选择偏最小二乘回归
选定「偏最小二乘回归(PLSR)」。
为 PLS 指定多个学业列与数学成绩
自变量至少两列定量,因变量选数学后运行。

如何阅读输出

下表把 271 名完整个案按第一潜变量得分切开。负向尾 41(15.13%)是 t₁ 偏低的学生,正向尾 40(14.76%)是 t₁ 偏高的学生,中段 190(70.11%)落在零点附近。工作台若仍打印「类别 A/B/C」,按这个顺序对号入座。

第一潜变量得分箱占用
LV1 得分箱人数占比(%)
负向尾(t₁ 偏低)4115.13
正向尾(t₁ 偏高)4014.76
中段(|t₁| 靠近 0)19070.11
合计(完整个案)271100

工作台类别 A/B/C 依次对应负向尾、正向尾、中段。表内只有人数与占比,没有 t 或 F。

PLS 潜变量得分箱占用表
人数应与上表一致:41 / 40 / 190,合计 271。
第一潜变量得分分布或预测对照
图上中段最厚、两尾更瘦,与 70.11% 对得上;完整人数以表为准。

阅读顺序:完整个案 N=271 → 两尾是否大致对称(41 对 40)→ 中段是否占主体 → 再谈预测是否可用。70.11% 只说明大多数人的 t₁ 不极端,不能写成「第一成分解释了七成数学成绩」。两尾几乎一样多,也不能写成「模型把学生劈成差班与好班」——那是得分分箱,不是聚类,更不是假设检验。若还要报告 VIP 或原始列回归系数,等后续表给出再写;本页占用表到人数为止。

理论与公式

对已中心化(常再标准化)的 X、y,第一对权重使潜变量与响应的协方差最大。单响应时,第一方向正比于 X′y:

抽掉 t₁ 在 X 与 y 上的解释后,对残差重复,得到 t₂、t₃…。交叉验证通常用来决定留几个成分。本页占用把 t₁ 切成「偏低 / 偏高 / 近零」三箱,箱界按标准化得分的尾部与中段划分,不是等频三分位——否则三箱人数不会是 41、40、190。PCA 的第一主成分最大化 X 的方差,不管 y;PLS 的 t₁ 最大化与 y 的协方差,所以同一张成绩表上两条第一轴一般对不齐。

注意事项

  • 占用百分比不是 R²、不是 VIP、不是方差解释率。

  • 表里没有 t / F,不要为了投稿格式去编造「成分显著」。

  • 成分个数选多了会把噪声也压进预测,交叉验证比「能抽几个抽几个」更稳。

  • PLS-SEM 画的是潜变量路径图,本页是预测回归,名称相近、问题不同。

  • 271 是成表删除后的完整个案,和全表 790 行不是同一个分母。

  • 潜变量得分的符号可以整体翻转,负向尾与正向尾对调时只改标签,不改人数。

常见问题

参考文献

  • Wold, S., Sjöström, M., & Eriksson, L. PLS-regression: a basic tool of chemometrics[J]. Chemometrics and Intelligent Laboratory Systems, 2001, 58(2): 109–130.

  • Geladi, P., & Kowalski, B. R. Partial least-squares regression: a tutorial[J]. Analytica Chimica Acta, 1986, 185: 1–17.

  • Rosipal, R., & Krämer, N. Overview and recent advances in partial least squares. In: Subspace, Latent Structure and Feature Selection. Springer, 2006.

  • 王惠文. 偏最小二乘回归方法及其应用[M]. 国防工业出版社.