[控场AI]
概念bpb / 每字节比特数

Bits-per-byte

语言模型压缩效率的评估指标,定义为模型对文本的负对数似然除以原始字节数。对词表大小不敏感,适合跨分词器比较,相比困惑度避免了词表大小对指标的人为影响

来源文章