[控场AI]
基准

TinyStories

用于训练和评估小型语言模型的儿童故事数据集,包含简单英语短篇故事,常用于语言模型研究中的基准测试

时间轴 (近 90 天)

10月15日

公开的VKORE-46M-NPU是一个46M参数、字符级、在TinyStories数据集上训练的模型,其作用是验证训练路径可行性而非模型质量。

待验证50%
10月12日

该基准使用锁定在特定commit的llama2.c,配合TinyStories的FP32检查点(15M、42M、110M参数),这些是跑在llama2.c上的小模型而非完整的Llama 2

待验证50%
10月12日

研究在 TinyStories、WikiText-103 和 CNN/DailyMail 三个数据集上进行验证,将每份语料从 512 个 chunk 扩大到 2,048 个 chunk,每个 chunk 为 64 个 token

待验证50%

全部知识事实 (3)

来源文章