待验证50% 置信基准精确时间

该架构在C4数据集上预训练，并与参数量匹配的BERT基线进行对比

1

来源数

50%

置信度

长期有效

时效性

2026/9/28

首次发现

来源

自编码器替代注意力：更省算力的掩码语言模型新架构

涉及实体

C4数据集concept BERTmodel

相关事实

待验证团队在验证环节实现了rollout与训练器之间的比特级匹配（bitwise-matched），使推理阶段和训练阶段的模型计算在数值上完全一致66% 相似待验证SWE-bench Verified 的评分机制依赖自动化测试套件，模型提交代码补丁后系统运行预定义单元测试来判断是否通过66% 相似待验证数据集通常划分为训练集、验证集和测试集三部分66% 相似待验证实验评估指标覆盖FID、可训练参数量、运行时间和GPU显存占用四个维度66% 相似待验证相关性检测通常采用基于预训练语言模型（如BERT、Sentence-BERT）的嵌入向量余弦相似度计算66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/955576

API

curl https://kongchang.com/api/v1/knowledge/claims/955576

MCP

get_claim(id=955576)