基准
TinyStories
用于训练和评估小型语言模型的儿童故事数据集,包含简单英语短篇故事,常用于语言模型研究中的基准测试
时间轴 (近 90 天)
10月15日
公开的VKORE-46M-NPU是一个46M参数、字符级、在TinyStories数据集上训练的模型,其作用是验证训练路径可行性而非模型质量。
待验证50%
10月12日
该基准使用锁定在特定commit的llama2.c,配合TinyStories的FP32检查点(15M、42M、110M参数),这些是跑在llama2.c上的小模型而非完整的Llama 2
待验证50%
10月12日
研究在 TinyStories、WikiText-103 和 CNN/DailyMail 三个数据集上进行验证,将每份语料从 512 个 chunk 扩大到 2,048 个 chunk,每个 chunk 为 64 个 token
待验证50%