产品
UpGuard
字节跳动Seed团队开发的大模型训练调试工具，通过逐位（bit by bit）比对两次训练运行，精确定位训练过程中首次出现数值偏差的操作，将调试时间从天级压缩至分钟级
时间轴 (近 90 天)
10月4日
UpGuard是一个通过对两次训练运行进行逐位（bit by bit）比对、精确识别两者首次出现差异操作的LLM训练调试工具
待验证50%
10月4日
在字节跳动的一个生产案例中，借助UpGuard将原本需要五天的调试工作缩短到不足五分钟
待验证50%
10月4日
逐位比对能够在算子粒度上定位到最细粒度的数值分歧点，找到第一个bit发生偏离的算子
待验证50%
10月4日
UpGuard方法隐含前提——需要有一个可比对的参考运行，且两次运行在理想情况下应产生一致的位级结果
待验证50%
10月4日
对于本身引入随机性的训练场景，如何界定'应当一致'的边界是逐位比对方法实践中需要进一步考量的部分
待验证50%