跳到主要内容

预测模型

线性回归(最小二乘法)

用普通最小二乘法估计定量因变量与一个或多个自变量的线性关系;定类自变量自动虚拟编码,也可按分组分别建模对比。

更新日期 2026-08-29 回归

这篇能回答什么

线性回归回答的是「在控制其他自变量之后,某个自变量再增加一个单位,定量因变量平均变化多少」。它把因变量写成自变量的线性组合加误差,用普通最小二乘法(OLS)估计截距与斜率,并给出标准误、t 检验、拟合优度 R² 与整体 F 检验。标准化系数 Beta 用来比较不同量纲自变量的相对贡献;VIF 用来检查共线性。

适合:成绩、收入、量表均分、销量等定量因变量;自变量可以是定量,也可以是低基数定类(系统会做虚拟变量编码)。可选 1–2 个定类分组变量,按各组独立拟合后再对比 R² 与系数结构。

什么时候不该用

因变量若是二分类(是/否、男女),应改用二元逻辑回归;有序多分类用有序逻辑回归;计数用泊松回归。若目的是「在控制第一批变量后再看新变量是否额外解释变异」,用分层回归。编号列、准标识符不能当作自变量。

如何选择方法

先看因变量类型,再看你要的是一次进入全部自变量,还是分块检验增量解释力。只关心两列线性共变、不估计条件均值时,Pearson 相关更直接。VIF 很高、系数符号不稳时,可对照岭回归。

  • 线性回归(OLS):1 个定量 Y,1–30 个 X;输出 B、Beta、t、p、VIF、R²、调整 R² 与 F。

  • 分层回归:自变量按理论分块进入,看 ΔR² 是否显著。

  • 二元 / 有序 / 多项逻辑回归:Y 为分类时不要硬套线性概率模型。

  • Pearson 相关:两列线性相关,不控制其他变量。

输入、输出与限制

输入

因变量必须为定量。自变量可为定量或定类:定类列按 drop-first 虚拟编码进入设计矩阵。分组变量可选,用于分组独立建模,不是固定效应本身。

  • 自变量:最少 1 个,最多 30 个(定量或定类)。

  • 因变量:最少 1 个,最多 1 个(定量)。

  • 分组变量:最少 0 个,最多 2 个(定类)。

输出

结果表给出各自变量(含截距)的非标准化系数 B 与标准误、标准化 Beta、t、p、VIF,以及模型 R²、调整 R² 与 F 检验。同时输出拟合/系数图与文字洞察。若启用分组,将分别给出各组回归表与拟合优度对比图。

产品限制

  • 缺失按分析变量成表删除,有效 N 以结果表为准。

  • 定类自变量若疑似编号 / ID 会被拒绝;仅一个类别时无法编码。

  • 分组建模只保留样本量最大的前 12 组。

  • 任一非截距 VIF 大于 10(或 VIF 无法计算)时,工作台会把岭回归作为可解释主结果,OLS 表仍保留作诊断。本教学示例 VIF 均接近 1,走的是 OLS。

案例

研究问题。 一份成绩表记录了语文、数学、英语分数与平均分。研究者想估计三门单科分数与平均分的线性关系,并比较三者的标准化贡献。

教学示例来自定量成绩表,工作表为「Sheet1」,有效样本量 770。自变量为语文成绩、数学成绩、英语成绩,因变量为平均分。下载后可在工作台按同样角色复现本页系数。

下载教学示例表(定量成绩)

在 StatsX 中操作

  1. 步骤 1 · 上传表格

    打开工作台,将 Excel / CSV / JSON 拖入上传区。本案例使用定量成绩 xlsx,确认工作表为「Sheet1」。单文件不超过 20 MB。

  2. 步骤 2 · 查看画像与质量

    在列画像中确认语文、数学、英语与平均分为定量,缺失可接受。不要把编号列拖进自变量。

  3. 步骤 3 · 选择「线性回归(最小二乘法)」

    在算法目录搜索「线性回归」,点选线性回归(最小二乘法)。适合/可用标记仅供参考,仍以研究问题为准。

  4. 步骤 4 · 指定变量并运行

    自变量勾选语文成绩、数学成绩、英语成绩(最多 30 个);因变量勾选平均分。本案例不使用分组。点击运行分析。

  5. 步骤 5 · 阅读结果

    先核对有效 N 与整体 F、R²,再读各系数的 B、Beta 与 p,最后看 VIF。图与表不一致时以表为准。

StatsX 工作台上传定量成绩表
将教学示例表拖入工作台上传区。
列画像
列画像给出类型、缺失与唯一值,便于确认定量因变量。
在目录中选择线性回归
在算法目录中选定「线性回归(最小二乘法)」。
为线性回归指定自变量与因变量
自变量勾选三门成绩、因变量勾选平均分后运行。

如何阅读输出

下表由同一份教学示例在 StatsX 中运行线性回归得到。有效 N 为 770。模型 R² = 0.534,调整 R² = 0.532,F = 292.477,p < 0.001,整体线性关系统计显著,三门成绩合计解释平均分约 53.4% 的变异。

线性回归分析结果表
自变量因变量N非标准化系数(B)非标准化系数(标准误)标准化系数(Beta)t值P值VIF值R²调整R²F
常数平均分77033.1411.41-23.507<0.001***-0.5340.532F=292.477 P=<0.001***
语文成绩平均分7700.1790.0110.41916.991<0.001***1.0010.5340.532F=292.477 P=<0.001***
数学成绩平均分7700.1910.0110.43517.615<0.001***1.0020.5340.532F=292.477 P=<0.001***
英语成绩平均分7700.1850.0110.43517.621<0.001***1.0010.5340.532F=292.477 P=<0.001***

左右滑动可查看完整表格

线性回归分析结果表
工作台中的回归系数表,数字应与上表一致。
线性回归系数与拟合图
系数图与拟合图用于对照方向与相对大小;完整数字以结果表为准。

【线性回归·平均分】统计显著(p < 0.001, α=0.05),R²=0.534,调整R²=0.532,自变量解释约 53.4% 变异。 【显著自变量】语文成绩(B=0.179, Beta=0.419, p < 0.001, 正向);数学成绩(B=0.191, Beta=0.435, p < 0.001, 正向);英语成绩(B=0.185, Beta=0.435, p < 0.001, 正向)

解读顺序建议:有效 N → 整体 F 与 R² → 各变量 B 的符号与 p → Beta 比较相对贡献 → VIF 是否远大于 10。本案例语文 B = 0.179、数学 B = 0.191、英语 B = 0.185,三者均正向且 p < 0.001;数学与英语的 Beta 均为 0.435,略高于语文的 0.419。VIF 为 1.001–1.002,共线性可忽略。截距 B = 33.141 是三门成绩均为 0 时的平均分预测值,通常不作实质解释。统计显著不等于因果:成绩变量同属学业表现,系数描述的是条件关联。

理论与公式

设因变量 Y 与设计矩阵 X(含截距列)满足线性模型,误差均值为 0。普通最小二乘估计为:

第 j 个自变量的标准化系数把斜率换到「各自一个标准差」的尺度,便于跨变量比较:

拟合优度与方差膨胀因子为:

其中 R_j² 是把 X_j 对其余自变量回归得到的决定系数。整体 F 检验的原假设是全部斜率均为 0。定类自变量展开为 k−1 个虚拟变量后,系数相对于被省略的参照水平解释。分组建模时,上式在各组子样本内分别成立,不能把全样本系数直接套到每一组。

注意事项

  • OLS 描述的是条件均值的线性近似,不自动等于因果效应。

  • VIF 大于 10 时系数标准误会放大;StatsX 此时可能改以岭回归为主结果,核对软件时要先看估计方法。

  • 合成指标(如平均分)与其组成项同时进入模型时,R² 容易偏高,解释应限于条件关联,而不是「发现了新机制」。

  • 分组对比展示的是各组各自的回归,组间系数差需要另做交互或分层检验,不能只靠两张表「看起来不同」。

  • p 值显著仍应报告 B、Beta 与 R²:解释力很低时,显著系数的实践意义可能有限。

常见问题

参考文献

  • 何晓群, 刘文卿. 应用回归分析[M]. 中国人民大学出版社.

  • Wooldridge, J. M. Introductory Econometrics: A Modern Approach. Cengage.

  • Cohen, J., Cohen, P., West, S. G., & Aiken, L. S. Applied Multiple Regression/Correlation Analysis for the Behavioral Sciences. Routledge.