待验证50% 置信事实精确时间
Sentence-Transformers（SBERT）由Nils Reimers等人在2019年提出，在预训练BERT之上增加池化层并通过孪生网络结构微调
1
来源数
50%
置信度
长期有效
时效性
2026/10/5
首次发现
来源
涉及实体
相关事实
待验证Transformer架构由Vaswani等人于2017年提出，推理计算图由重复的Decoder层叠加而成，每层包含多头自注意力、前馈网络、层归一化和残差连接65% 相似待验证Akyürek等人2022年的工作从理论上证明，Transformer在执行上下文学习时其前向传播等价于在注意力层中隐式运行一步梯度下降更新64% 相似已验证Transformer的核心创新是用自注意力机制替代RNN的时序处理方式，实现了高度并行化训练，但放弃了RNN的隐状态跨时间步传递机制62% 相似待验证Transformer由Vaswani等人于2017年提出，其自注意力机制能在序列中任意两个位置之间直接建立依赖关系62% 相似待验证分层行为编码器（HBE）分别用Temporal Transformer和Set Transformer对个体时间演进过程和鱼群集体动态建模61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/975545API
curl https://kongchang.com/api/v1/knowledge/claims/975545MCP
get_claim(id=975545)