待验证50% 置信事实精确时间
线性分类器是以模型内部隐藏状态为输入、经一层线性变换加激活函数输出歧义概率的轻量探针,参数极少、训练数据需求小。
1
来源数
50%
置信度
长期有效
时效性
2026/11/16
首次发现
来源
涉及实体
相关事实
待验证线性探测基线显示模型在每一层都编码了提示的类别信息,但只在很小一部分层上真正重构计算过程76% 相似已验证线性探针是在模型激活值上训练的简单线性分类器,用于检测模型内部是否存在特定行为或概念76% 相似待验证如果想让模型通过微调学会一种新关系,应先检查其在预训练表示里是否已经线性编码了对应的旧结构;对于线性可读性差的关系,单纯增加微调样本可能收效有限。74% 相似待验证调试模型不收敛的系统化流程是先在极小数据子集上验证模型能否过拟合,如果连小数据都无法过拟合说明模型或训练代码存在bug73% 相似已验证推测解码是一种不改变模型输出分布的无损加速技术,使用参数量远小于目标模型的草稿模型生成候选token,再让目标模型并行验证72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1174258API
curl https://kongchang.com/api/v1/knowledge/claims/1174258MCP
get_claim(id=1174258)