[控场AI]
概念Shapley value / Shapley贡献值

Shapley值

源自合作博弈论的数学概念,由Lloyd Shapley于1953年提出,用于公平分配多参与者的联合收益,在机器学习中被广泛用于特征归因,衡量每个特征对模型预测的平均边际贡献

核心事实

时间轴 (近 90 天)

10月19日

CASI用快照上的反事实干预与Shapley值做信用分配,并通过真实7天生产A/B测试(10%流量)验证,主价值指标提升3.51%。

待验证50%
10月15日

归因分析常用手段有Shapley值、反事实推理和特征重要性排序,在预测函数中常以贡献度排名或驱动因子列表形式呈现。

待验证50%
10月12日

在冗余特征场景中(两个特征携带完全相同信息),留一法给两者都打0分,而Shapley给每个副本各4分。

待验证50%
10月12日

在纯加性模型上,留一法和Shapley的结果完全一致。

待验证50%
10月12日

精确计算Shapley值需要对2^n个子集求和,n=20时约需100万次模型评估,n=30时超过10亿次,实际不可行。

待验证50%
10月12日

在同样的交互模型中,Shapley值给两个特征各5分,总和10分,匹配预测值。

待验证50%
10月12日

无论采样多少次,排列采样估计Shapley值时效率性始终精确成立,因为每个排列内部的边际贡献望远镜式加总为v(全集)−v(空集)。

待验证50%
10月12日

Shapley值可以为特征分配负分,以表示该特征拉低了预测值。

待验证50%
10月12日

Shapley值可以通过阶乘公式、排列平均、Möbius反演三种独立算法计算并得到一致结果。

待验证50%
10月9日

论文证明了对数几率诱导出的表示所对应的距离恰好等于解析Shapley值向量之间的ℓ1距离

待验证50%

还有 2 条时间轴事件

全部知识事实 (14)

已验证

SHAP的理论基础来自合作博弈论中的Shapley值概念,由诺贝尔经济学奖得主Lloyd Shapley于1953年提出,2017年Lundberg和Lee将其引入机器学习领域

65%
已验证

SHAP基于博弈论中的Shapley值,能够量化每个特征对最终预测结果的贡献度,是目前工业界应用最广泛的解释性工具之一

65%
待验证

CASI用快照上的反事实干预与Shapley值做信用分配,并通过真实7天生产A/B测试(10%流量)验证,主价值指标提升3.51%。

50%
待验证

归因分析常用手段有Shapley值、反事实推理和特征重要性排序,在预测函数中常以贡献度排名或驱动因子列表形式呈现。

50%
待验证

在同样的交互模型中,Shapley值给两个特征各5分,总和10分,匹配预测值。

50%
待验证

在冗余特征场景中(两个特征携带完全相同信息),留一法给两者都打0分,而Shapley给每个副本各4分。

50%
待验证

在纯加性模型上,留一法和Shapley的结果完全一致。

50%
待验证

精确计算Shapley值需要对2^n个子集求和,n=20时约需100万次模型评估,n=30时超过10亿次,实际不可行。

50%
待验证

无论采样多少次,排列采样估计Shapley值时效率性始终精确成立,因为每个排列内部的边际贡献望远镜式加总为v(全集)−v(空集)。

50%
待验证

Shapley值可以通过阶乘公式、排列平均、Möbius反演三种独立算法计算并得到一致结果。

50%
待验证

Shapley值可以为特征分配负分,以表示该特征拉低了预测值。

50%
待验证

论文证明了对数几率诱导出的表示所对应的距离恰好等于解析Shapley值向量之间的ℓ1距离

50%
待验证

Shapley值满足效率性、对称性、虚拟性和可加性四条公理,被认为是理论上最公平的特征归因方式

50%
待验证

论文针对加权朴素贝叶斯给出了Shapley值的解析形式(无需采样的封闭解析解)

50%

来源文章