独热编码
将含有 k 个类别的离散变量展开为 k 个二元列的编码方法,避免把类别代号当作数值大小解读,使线性模型能为每个类别学习独立权重
时间轴 (近 90 天)
独热编码存在虚拟变量陷阱:若同时保留全部k列并拟合截距项,特征间会完全共线,逻辑回归虽可通过正则化缓解,但通常仍会采用 drop='first' 去掉一列。
学员用另一种独热编码方案重跑对比,确认0.002的精度差异是真实的,而非随机误差。
ML Zoomcamp 2026 的 Module 3 涵盖逻辑回归训练、独热编码处理类别变量、互信息评分、特征消除以及分类模型的可解释性。
独热编码将含有k个类别的离散变量展开为k个二元列,每个样本在对应类别列上取1,其余为0。
独热编码产生高维稀疏矩阵,类别基数很大时应改用目标编码或嵌入。
独热编码的数学本质是将类别变量映射到欧氏空间中的标准正交基上,使得任意两个不同类别之间的欧氏距离相等(均为√2)
棋盘状态编码有多种方案,包括9维向量(-1/0/1)、27维独热编码、以及适合卷积神经网络的双通道二值矩阵
全部知识事实 (7)
独热编码存在虚拟变量陷阱:若同时保留全部k列并拟合截距项,特征间会完全共线,逻辑回归虽可通过正则化缓解,但通常仍会采用 drop='first' 去掉一列。
50%待验证学员用另一种独热编码方案重跑对比,确认0.002的精度差异是真实的,而非随机误差。
50%待验证ML Zoomcamp 2026 的 Module 3 涵盖逻辑回归训练、独热编码处理类别变量、互信息评分、特征消除以及分类模型的可解释性。
50%待验证独热编码将含有k个类别的离散变量展开为k个二元列,每个样本在对应类别列上取1,其余为0。
50%待验证独热编码产生高维稀疏矩阵,类别基数很大时应改用目标编码或嵌入。
50%待验证独热编码的数学本质是将类别变量映射到欧氏空间中的标准正交基上,使得任意两个不同类别之间的欧氏距离相等(均为√2)
50%待验证棋盘状态编码有多种方案,包括9维向量(-1/0/1)、27维独热编码、以及适合卷积神经网络的双通道二值矩阵
50%