基准CNN DailyMail
CNN/DailyMail
由CNN和每日邮报新闻文章构成的数据集，广泛用于文本摘要和阅读理解任务的训练与评估
时间轴 (近 90 天)
10月13日
在 CNN/DailyMail 数据集上的下一词预测对比实验中，ILRN 和 Transformer 参数量各约 532K，分别训练 2000 万个下一词目标，在 96 和 256 两种上下文窗口下独立训练。
待验证50%
10月12日
研究在 TinyStories、WikiText-103 和 CNN/DailyMail 三个数据集上进行验证，将每份语料从 512 个 chunk 扩大到 2,048 个 chunk，每个 chunk 为 64 个 token
待验证50%