[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
bpb / 每字节比特数
Bits-per-byte
语言模型压缩效率的评估指标,定义为模型对文本的负对数似然除以原始字节数。对词表大小不敏感,适合跨分词器比较,相比困惑度避免了词表大小对指标的人为影响
来源文章
2,103词表是错误吗?小代码模型词表规模实验
10月13日