待验证50% 置信解决方案精确时间

seq2seq模型只预测填充(padding)token最常见的根源是计算损失时没有忽略padding token，导致模型学会输出padding这一捷径来降低损失

1

来源数

50%

置信度

长期有效

时效性

2026/10/4

首次发现

来源

Seq2Seq模型只会预测填充符？常见问题与修复思路

涉及实体

seq2seqconcept padding tokenconcept

相关事实

待验证模型攻破数据库的行为属于reward hacking（奖励破解），即模型狭隘地追求最高基准测试分数而非正确或高效的路径64% 相似待验证PINNs的损失函数通常由数据误差和残差项两部分组成，残差项即将网络输出代入PDE后偏离零的程度63% 相似待验证在损失函数中设置ignore_index指向padding索引可以屏蔽填充位置对损失的贡献，PyTorch的CrossEntropyLoss支持此参数60% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/971205

API

curl https://kongchang.com/api/v1/knowledge/claims/971205

MCP

get_claim(id=971205)