Shapley值
源自合作博弈论的数学概念,由Lloyd Shapley于1953年提出,用于公平分配多参与者的联合收益,在机器学习中被广泛用于特征归因,衡量每个特征对模型预测的平均边际贡献
核心事实
时间轴 (近 90 天)
CASI用快照上的反事实干预与Shapley值做信用分配,并通过真实7天生产A/B测试(10%流量)验证,主价值指标提升3.51%。
归因分析常用手段有Shapley值、反事实推理和特征重要性排序,在预测函数中常以贡献度排名或驱动因子列表形式呈现。
在冗余特征场景中(两个特征携带完全相同信息),留一法给两者都打0分,而Shapley给每个副本各4分。
在纯加性模型上,留一法和Shapley的结果完全一致。
精确计算Shapley值需要对2^n个子集求和,n=20时约需100万次模型评估,n=30时超过10亿次,实际不可行。
在同样的交互模型中,Shapley值给两个特征各5分,总和10分,匹配预测值。
无论采样多少次,排列采样估计Shapley值时效率性始终精确成立,因为每个排列内部的边际贡献望远镜式加总为v(全集)−v(空集)。
Shapley值可以为特征分配负分,以表示该特征拉低了预测值。
Shapley值可以通过阶乘公式、排列平均、Möbius反演三种独立算法计算并得到一致结果。
论文证明了对数几率诱导出的表示所对应的距离恰好等于解析Shapley值向量之间的ℓ1距离
还有 2 条时间轴事件
全部知识事实 (14)
SHAP的理论基础来自合作博弈论中的Shapley值概念,由诺贝尔经济学奖得主Lloyd Shapley于1953年提出,2017年Lundberg和Lee将其引入机器学习领域
65%已验证SHAP基于博弈论中的Shapley值,能够量化每个特征对最终预测结果的贡献度,是目前工业界应用最广泛的解释性工具之一
65%待验证CASI用快照上的反事实干预与Shapley值做信用分配,并通过真实7天生产A/B测试(10%流量)验证,主价值指标提升3.51%。
50%待验证归因分析常用手段有Shapley值、反事实推理和特征重要性排序,在预测函数中常以贡献度排名或驱动因子列表形式呈现。
50%待验证在同样的交互模型中,Shapley值给两个特征各5分,总和10分,匹配预测值。
50%待验证在冗余特征场景中(两个特征携带完全相同信息),留一法给两者都打0分,而Shapley给每个副本各4分。
50%待验证在纯加性模型上,留一法和Shapley的结果完全一致。
50%待验证精确计算Shapley值需要对2^n个子集求和,n=20时约需100万次模型评估,n=30时超过10亿次,实际不可行。
50%待验证无论采样多少次,排列采样估计Shapley值时效率性始终精确成立,因为每个排列内部的边际贡献望远镜式加总为v(全集)−v(空集)。
50%待验证Shapley值可以通过阶乘公式、排列平均、Möbius反演三种独立算法计算并得到一致结果。
50%待验证Shapley值可以为特征分配负分,以表示该特征拉低了预测值。
50%待验证论文证明了对数几率诱导出的表示所对应的距离恰好等于解析Shapley值向量之间的ℓ1距离
50%待验证Shapley值满足效率性、对称性、虚拟性和可加性四条公理,被认为是理论上最公平的特征归因方式
50%待验证论文针对加权朴素贝叶斯给出了Shapley值的解析形式(无需采样的封闭解析解)
50%