待验证50% 置信事实精确时间

Decoder 场景下需引入 Mask 矩阵，将当前词之后的位置赋值为负无穷，经 Softmax 后趋近于 0，形成因果生成效果

1

来源数

50%

置信度

长期有效

时效性

2026/9/15

首次发现

来源

Transformer注意力机制详解：从Token到自注意力全流程

涉及实体

Maskconcept Softmaxconcept

相关事实

待验证将矩阵展平喂给MLP会因行数可变导致输入维度不固定，并破坏排列不变性63% 相似待验证块稀疏特征器学习编码映射f使输出向量按预设块大小划分，且任意输入下激活的非零块数量远小于总块数62% 相似待验证在代码生成Prompt中，否定性约束（说明不需要什么）能缩小模型搜索空间，比增加期望描述更能提高准确率60% 相似待验证FSM约束通过logit masking将不合法的下一个token概率强制置为零，但将复杂Schema编译为有限状态机会带来编译耗时和内存占用上升的代价60% 相似待验证投机解码存在序列越长靠后候选Token被接受概率越低的软肋，DiSpark针对此痛点设计60% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/923467

API

curl https://kongchang.com/api/v1/knowledge/claims/923467

MCP

get_claim(id=923467)