待验证50% 置信事实精确时间

HnS通过观测模型行为变化来衡量归因，而不依赖模型内部参数的梯度或激活值，输出变化越大说明该概念对模型决策的贡献越大

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

Hide and Seek：无需模型权重的黑盒视觉模型概念解释新方法

涉及实体

相关事实

已验证模型引导（steering）通过在推理过程中直接修改中间层的激活向量，在不修改权重的前提下影响模型输出行为76% 相似待验证每次前向传播生成token时，模型都需经过完整的多头注意力计算和前馈网络层，计算量由模型参数规模决定71% 相似待验证让模型看到其他模型的输出本质上是在输入中注入了额外信息，这与模型能否通过互动产生涌现能力是两回事71% 相似待验证模型对齐通过RLHF、DPO等技术使模型输出符合人类期望，对齐调整会影响模型的输出长度和风格71% 相似待验证扰动对模型输出的影响取决于具体模型的内部机制，不同架构的模型对相同扰动会呈现截然不同的响应70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1001894

API

curl https://kongchang.com/api/v1/knowledge/claims/1001894

MCP

get_claim(id=1001894)