概念Bits Per Byte / BPB

held-out BPB

留出集上的每字节比特数，衡量语言模型压缩效率的指标，值越低表示模型对未见过文本的预测越准确

时间轴 (近 90 天)

10月27日

在新质量驱动的搜索中重用 Arena 揭示的发现，在匹配数据和 FLOPs 下实现了更低的训练损失，在相同模型大小下实现了更低的 held-out BPB。

待验证50%

10月27日

held-out BPB（每字节比特数）是一种衡量语言模型压缩效率的指标，值越低表示模型对未见过文本的预测越准确。

待验证50%

在新质量驱动的搜索中重用 Arena 揭示的发现，在匹配数据和 FLOPs 下实现了更低的训练损失，在相同模型大小下实现了更低的 held-out BPB。

held-out BPB（每字节比特数）是一种衡量语言模型压缩效率的指标，值越低表示模型对未见过文本的预测越准确。