待验证50% 置信事实精确时间

GPT系列使用BPE（Byte Pair Encoding）分词器，em dash在tokenizer中被编码为独立的token

1

来源数

50%

置信度

长期有效

时效性

2026/8/12

首次发现

来源

破折号之殇：当AI污名化人类的写作习惯

相关事实

待验证GPT系列和Claude系列均采用Byte-Pair Encoding（BPE）类似的分词机制80% 相似待验证GPT系列模型采用字节级BPE（Byte-level BPE），以原始字节为基本单位消除未登录字符问题78% 相似已验证GPT系列使用tiktoken（基于BPE编码）进行Token化75% 相似待验证GPT系列常用的BPE字节对编码算法通过统计相邻字符对频率并合并最高频字符对来构建词汇表71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/737312

API

curl https://kongchang.com/api/v1/knowledge/claims/737312

MCP

get_claim(id=737312)