概念
codeparrot-clean
一个从GitHub收集并去重的Python代码数据集，包含约数百万个Python文件，常用于代码模型的训练和评估。
时间轴 (近 90 天)
10月18日
Keera在2B token的codeparrot-clean数据集上预训练，遵循Chinchilla约20 token/参数的规则。
待验证50%
一个从GitHub收集并去重的Python代码数据集，包含约数百万个Python文件，常用于代码模型的训练和评估。
Keera在2B token的codeparrot-clean数据集上预训练，遵循Chinchilla约20 token/参数的规则。