待验证50% 置信基准精确时间
在bert-base-uncased的一次热态英文编码中，归一化（Normalization）消耗了88%的编码时间，而WordPiece只占8%。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
BERT分词瓶颈前移：归一化竟吞掉88%编码时间
rss2026/10/16
涉及实体
相关事实
待验证在8500万非嵌入参数、训练token预算匹配的实验中，无约束拟合在共同无约束解码器下于全部12种语言中产生了更高的留出集平均每字节比特数67% 相似待验证对于代码而言平均每行代码约消耗10-15个token，高于自然语言文本的每词1.3个token的比率67% 相似待验证抽取式摘要牺牲一定的语言流畅度和信息压缩率，换来每句话可追溯到原文的可验证性66% 相似待验证OpenAI 测试显示，对 400 token 文本，未编辑时约 92% 被检出，替换 10% 词语为同义词后检出率降至 66%，替换 25% 词语后检出率仅 17%。64% 相似待验证现代大语言模型训练时优化的交叉熵损失，本质上是在最小化对文本的编码长度64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1042223API
curl https://kongchang.com/api/v1/knowledge/claims/1042223MCP
get_claim(id=1042223)