跳到主要内容

相关性分析

kappa一致性检验

检验两名(或多名两两)评分者对同一批对象的定类判定,是否比「各按自己的边际瞎猜」更重合。

更新日期 2026-08-29 相关

这篇能回答什么

Cohen’s Kappa 问的是:两列定类评分贴在同一批对象上,观察到的一致格子,比按照两列各自的类别占比随机交叉,多出了多少。原始重合率会把「大家都爱打 5 分」算进去;Kappa 把这份偶然频率减掉,得到 −1 到 1 之间的系数。0 表示没有超出随机的重合,1 表示完全一致。

适合:两位医生给影像阴阳性、两位编码员给开放题归类、两位评委给作品打等级。教学示例工作表「raters」里的「评分者1」「评分者2」就是这种宽表——一行一个对象,两列各是一名评分者的 1–5 分判定。量表内部多题是否同向,应改用信度分析;多名评分者的定量分、还要拆评分者间 / 评分者内方差,应看组内相关系数。

什么时候不该用

两列连续成绩的共变不是 Kappa,应走 Pearson 或秩相关。两列无序类别若问的是「有没有关联」而不是「判定是否重合」,用卡方检验。同一人前后两次 0/1 是配对设计,不是两名评分者,应走配对卡方。只有一列评分无法计算。

如何选择方法

先分清「两个人给同一个对象贴标签」还是「一组题目测同一个构念」。前者用 Kappa(定类)或 ICC(定量重复);后者用 Cronbach α。标签有序且你承认「差一档比差三档轻」,应考虑加权 Kappa,而不是把 1 与 5 的冲突和 4 与 5 的冲突等权。只想看交叉格子人数,先做列联表。

  • kappa一致性检验:2–10 个定类评分列,输出两两 Kappa、标准误、z、p。

  • Cronbach α:多道量表题的内部一致性,不是评分者重合。

  • ICC:同一对象多次定量分的方差分量信度。

  • 卡方 / 列联表:类别关联,不校正「瞎猜也会碰上」的基线。

输入、输出与限制

输入

评分变量须为定类(或已当成类别的有序等级),至少两列,且应对齐同一批对象。文本设计示例请打开工作表「raters」,列名为评分者1、评分者2。

  • 评分变量:最少 2 个,最多 10 个定类列。

  • 三列及以上时按两两配对各算一条 Kappa,不会自动给出 Fleiss 多评分者系数。

输出

结果表列:配稳项、Kappa值、标准误差、z、P值。配稳项用「甲配对乙」标明是哪两列。另有一致性格子的可视化与文字洞察。

产品限制

  • 本过程报告的是 Cohen Kappa(未加权),1 与 5 的冲突和 4 与 5 的冲突等权。

  • 类别水平必须两列共享同一套编码;一边用「优/良」、一边用 1–5,会对不齐。

  • 某一类别在两列都从未出现时,该行该列不进入边际。

  • 星号只标记 p 相对 α,写作仍应写 Kappa 与标准误。

案例

研究问题。 两名评分者对同一批对象给出 1–5 分等级。研究者要知道他们的判定有没有超出「各按自己的打分习惯随机交叉」的重合,而不是只数有多少行数字完全相同。

教学示例来自文本设计表,工作表为「raters」,两列分别为评分者1、评分者2。工作台给出的配稳项是「评分者1配对评分者2」。下载后切到该工作表,按同样两列复现本页 Kappa。

下载教学示例表(文本设计)

在 StatsX 中操作

  1. 步骤 1 · 载入文本设计表

    把 text-design 示例 xlsx 放进工作台。本过程用的是工作表「raters」,不是 papers 或 kano。

  2. 步骤 2 · 确认两列评分者

    画像中「评分者1」「评分者2」应为定类或低基数等级,取值在同一套 1–5 编码里。不要误把 papers 表的「作者」拖进来。

  3. 步骤 3 · 点选「kappa一致性检验」

    目录搜索 kappa 或「一致性」,点选 kappa一致性检验。不要和信度分析、ICC 点错。

  4. 步骤 4 · 放入评分变量

    评分变量勾选评分者1、评分者2(2–10 列)。点击运行分析。

  5. 步骤 5 · 读 Kappa 而不是只数相同行

    先看配稳项是否为「评分者1配对评分者2」,再读 Kappa、标准误、z 与 p。完全相同的行数只是观测一致率的分子,不是表里的 Kappa。

工作台上传文本设计表示例
上传后切换到工作表 raters。
目录中选定 kappa 一致性检验
在算法目录里点选「kappa一致性检验」。
评分变量勾选两名评分者
评分变量放入评分者1与评分者2后运行。

如何阅读输出

下表由同一份 raters 工作表在 StatsX 中运行得到。配稳项「评分者1配对评分者2」标明比较的是哪两列。Kappa=0.702,标准误差=0.062,z=11.36,P值=<0.001***。按常见 Landis–Koch 标尺,0.61–0.80 属高度(substantial)一致;本例落在这一段,且远小于 0.05 的 α 不能解释成「偶然碰上」。

Kappa一致性检验表
配稳项Kappa值标准误差zP值
评分者1配对评分者20.7020.06211.36<0.001***

左右滑动可查看完整表格

Kappa 一致性检验结果表
工作台中的 Kappa、标准误、z 与 p 应与上表一致。
两名评分者一致性格子图
图帮助看见对角优势;报告数字以结果表的 Kappa 与 z 为准。

【Kappa一致性·评分者1×评分者2】Kappa=0.702(高度一致性),统计显著(p < 0.001, α=0.05)。结论:两变量评分存在超出随机水平的一致性关系。

读表顺序:配稳项 → Kappa → 标准误 → z 与 p → 再决定要不要谈加权。本例 z=11.36 由 0.702÷0.062 得到,约 11.3,双侧 p 记为 <0.001***。高度一致仍允许「差一档」的邻格冲突;若临床协议规定差一档就算失败,应改加权或直接报加权后的不一致代价,不要把 0.702 写成可以互换使用的金标准。

理论与公式

设两名评分者的类别为 1,…,k,n_{ij} 为甲评 i、乙评 j 的人数,N 为有效对象。观测一致率与期望一致率为

标准误在 H₀: κ=0 下由边际频率构造(Fleiss 等给出大样本方差)。本页

本例 κ=0.702,SE=0.062,z=11.36。p_e 来自两名评分者各自的 1–5 边际,不是 1/k。因此「大家都爱打高分」会抬高 p_e、压低 Kappa:原始对角比例看起来不低,减掉边际之后系数仍可能只有中等。加权 Kappa 把 |i−j| 纳入损失,邻格冲突不再与跨三档冲突等权;本表未做加权。

注意事项

  • Kappa 高不等于「可以互相替代」:协议若不允许邻档误差,要另定临床阈值。

  • 边际极不均衡时会出现 Kappa paradox:对角比例很高,κ 却偏低。

  • 未加权把 1 对 5 和 4 对 5 罚得一样重,有序等级应事先决定是否加权。

  • 三列评分者会得到三对 Kappa,不要平均成一个「总一致」却不说明配对。

  • 对象必须是同一批:把两组不同学生的等级并排,不是评分者设计。

常见问题

参考文献

  • Cohen, J. A coefficient of agreement for nominal scales. Educational and Psychological Measurement, 1960, 20(1): 37–46.

  • Cohen, J. Weighted kappa: nominal scale agreement with provision for scaled disagreement. Psychological Bulletin, 1968, 70(4): 213–220.

  • Landis, J. R., Koch, G. G. The measurement of observer agreement for categorical data. Biometrics, 1977, 33(1): 159–174.

  • Fleiss, J. L., Levin, B., Paik, M. C. Statistical Methods for Rates and Proportions. Wiley.