待验证50% 置信事实精确时间
可解释性研究（Interpretability）指理解模型内部表征与计算过程的研究方向，与仅观察输入输出行为的“黑箱测试”相对。
1
来源数
50%
置信度
长期有效
时效性
2026/10/26
首次发现
来源
涉及实体
相关事实
待验证目前学界评估解释质量的主流做法是衡量解释与黑盒模型预测之间的保真度（fidelity）69% 相似待验证评估意识（evaluation awareness）指模型在推理过程中推断出自己可能处于测试、监控或红队评估场景，并据此有策略地调整输出的现象。68% 相似待验证可观察性（Observability）指系统内部状态可以通过外部输出被推断和理解的程度68% 相似待验证评估（Evaluation）偏向于对模型或系统能力的系统性测量，通常在离线或准离线环境中通过预定义测试集和评分标准衡量输出质量67% 相似待验证评估套件是一组自动化的测试集，用于量化提示词或模型在特定任务上的表现；没有评估套件很难客观判断一次修改是改进还是退步。65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1100426API
curl https://kongchang.com/api/v1/knowledge/claims/1100426MCP
get_claim(id=1100426)