Unverified50% confidenceFactExact time
相关不等于因果是传统可解释性方法通过观察激活值与输出统计关联推断模型行为的根本局限
1
Sources
50%
Confidence
Long-term
Relevance
7/14/2026
First Seen
Sources
Related Claims
UnverifiedFew-shot 示例传递的是样例而非规则，模型归纳过程是概率性的存在系统性偏差，因此示例与 Schema 应配合使用而非互相替代70% similarUnverified引导式生成模型提供的概率数字本质上是'受过良好约束的推断'而非可直接核实的真相70% similarUnverified统计推断是指从样本数据得出关于总体结论的系统性方法，包括假设检验、置信区间估计与贝叶斯推断70% similarUnverified多项实验表明，模型的表面推理与其实际决策机制之间存在显著偏差，通过激活修补可发现真正影响输出的内部路径与书面推理不吻合69% similarUnverified通过激活修补（Activation Patching）等因果分析方法可以发现，真正影响模型最终输出的内部路径与书面推理并不吻合69% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/509904API
curl https://kongchang.com/api/v1/knowledge/claims/509904MCP
get_claim(id=509904)