ExtraTrees回归

把「随机」拆开看：森林打乱行（bootstrap）并搜索最优切点；ExtraTrees 通常让每棵树看见同一份完整表，随机发生在切缝位置。你要 OOB 曲线，选森林。你要更快的训练、更能忍受切点抖动、并接受没有袋外行，选 ExtraTrees。两者的预测都是叶均值的平均，都不是基尼投票。

• ExtraTrees回归：全表进树，阈值均匀乱抽，输出代表叶厚与 RMSE。

• 随机森林回归：自助行 + 特征子集 + 搜索使 ΔMSE 最大的切点；可看 OOB。

• 决策树回归：单棵、切点可陈述，方差大。

• CatBoost回归：阈值不乱抽，而是在有序目标均值上提升残差。

输入

因变量必须是定量。特征以面积、楼层、总楼层、建筑年份这类连续尺为主；装修、户型若进来，会被当成整数尺再乱切，切在 1.7 没有「简装/精装」含义。

• 因变量：正好 1 个定量列（本例总价(万元)）。

• 特征：最少 1 个，最多 40 个；本练习用面积(平米)、楼层、总楼层、建筑年份。

输出

占用表把代表树的三片粗叶印成类别 A / B / C：A 43、B 49、C 111，合计 203。这是叶厚，不是房屋类型频数。另给出拟合/残差图与（若开启）不纯度重要性；重要性累加的是各次乱切上的 ΔMSE，不是基尼。

产品限制

• 有效行少于 20 时拒绝拟合。

• 树数固定 200，每次分裂随机抽 √p 个特征；阈值在节点 min–max 上均匀抽取。

• 不做 bootstrap：没有袋外行，也就没有 OOB R²。

• 最大深度 16，叶最小样本 2。把叶最小样本降到 1，训练 MSE 可以很好看，那是把噪声切进薄叶。

• 房源 ID、小区名称拒绝进入特征。

研究问题。 综合评价房源表要一条便宜、可复现的连续基线：用面积与楼层结构预测总价，并且能向审稿人解释「我们没有声称找到了最优面积门槛，只是平均了许多乱切树的叶均值」。研究者需要知道最瘦的那片代表叶有多厚，避免把 43 套上的均值写成全市规律。

工作表「Sheet1」。完整个案 203。代表叶占用：A 43（21.18%）、B 49（24.14%）、C 111（54.68%）。C 超过五成，乱切并没有把空间切成三块均匀盆地。下载后：Y 勾总价(万元)，特征勾面积(平米)、楼层、总楼层、建筑年份；不要勾房源 ID、小区名称、挂牌日期。

下载教学示例表（综合评价）

1. 步骤 1 · 装入评价住房表

   活动工作表保持 Sheet1。总价与单价不要同时当作结局，否则模型会近乎背诵定义。

2. 步骤 2 · 分清连续尺与整数尺

   面积、楼层的 min–max 乱切有平米或层的单位；装修若被编成 0–3，随机阈值可能落在 1.7，写进论文没有业务翻译。

3. 步骤 3 · 点 ExtraTrees回归

   目录同时有 ExtraTrees分类和随机森林回归。Y 是总价时必须点本项：分类会改成投票，森林会去搜索切点。

4. 步骤 4 · 挂上连续结局与骨干特征

   因变量：总价(万元)。特征：面积(平米)、楼层、总楼层、建筑年份。保持 200 棵与默认深度，先看代表叶厚。

5. 步骤 5 · 先数薄叶再谈 RMSE

   合计应对上 203。叶 A 若仍是 43 条，不要单独引用该叶均值；泛化误差只能靠事先扣下的测试行，本页没有 OOB。

下表是代表乱切树的三片粗叶厚度，不是户型或城市标签。合计 N=203。叶 A 43（21.18%），叶 B 49（24.14%），叶 C 111（54.68%）。C 的 54.68% 表示半数以上房源共享同一个叶均值；A 只有 43 条，该叶均值会被一两套天价撬动。委员会预测是 200 棵树叶均值的算术平均，比单片代表叶稳，但代表叶仍告诉你分区有多偏。

建议先核对接表人数 203，再单独看最瘦的那片代表叶（A=43）有多脆，然后才读各叶给出的万元均值和测试 RMSE。高价段残差若呈喇叭口，乱切平均也救不了外推。A/B/C 只是叶厚代号，不是客户分群。乱切委员会不提供 t 或标准误。

若把叶最小样本放到 1、深度放到上限，训练均方误差几乎总会再降一截，最瘦叶可能只剩个位数——那是把噪声写进分区。方法节应写明全样本进树、200 棵、随机阈值、深度 16，并列出 43/49/111 这三档叶厚。换一批挂牌，掷出的缝会跑，不能写成面积导致总价。重要性把面积排第一，多半只是房价按平米计价。

节点 t 的不纯度用该节点内定量结局对叶均值的均方误差衡量。与 CART / 随机森林不同：候选阈值 s 不是在排序取值上贪心扫描，而是在该节点该列的取值区间上均匀抽取，再在抽到的若干条提案里留 ΔMSE 较大的一条：

落到第 t 棵树终端叶的新样本，该树给出叶内均值；T 棵树再做算术平均。没有多数票，也没有基尼：

本例 n=203，代表叶 n_A=43、n_B=49、n_C=111。叶 A 的均值方差大约按 1/43 放大。Geurts 等指出，额外的阈值噪声换来树之间的去相关，从而使平均后的方差下降、偏差略升。全表进树意味着没有 OOB 公式；分类版 ExtraTrees 把 I(t) 换成基尼、把平均换成投票——那是另一页的公式，不能拿来解释本表的万元预测。

• 代表叶 A 仅 43 条时，不要把该叶均值写成稳健的市场价格。

• 乱切没有「面积=89.3 平米是最优门槛」可写，方法节应写「随机阈值集成」。

• 没有袋外行。要估计泛化，必须事先扣测试套，不能从占用表反推。

• 整数编码的装修被切在 1.7，不能翻译成装修档位规则。

• 200 棵、深度 16 是产品常数；换 sklearn 默认超参，代表叶人数会变。

• ΔMSE 重要性嘈杂，不能当因果，也不能冒充 OLS 的 B。

要搜索最优切点并看 OOB，改随机森林回归；要可陈述单条路径，改决策树回归；定类列是主角时改 CatBoost回归；Y 是标签时改 ExtraTrees分类。

• Geurts, P., Ernst, D., & Wehenkel, L. Extremely randomized trees[J]. Machine Learning, 2006, 63(1): 3–42.

• Breiman, L. Random forests[J]. Machine Learning, 2001, 45: 5–32.

• Hastie, T., Tibshirani, R., & Friedman, J. The Elements of Statistical Learning. Springer.