待验证50% 置信事实精确时间

输入模型的向量等于词向量加位置向量，例如7个字会生成7个词向量和7个位置向量相加得到真实输入

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

从零手撸Transformer：核心架构与PyTorch代码实战

涉及实体

Embeddingconcept 位置编码concept

相关事实

已验证嵌入模型将文本转换为高维向量时，通常生成768维或1536维的浮点数数组73% 相似待验证现代嵌入模型（如sentence-transformers系列）通常输出768维或1536维的向量69% 相似待验证上下文窗口决定模型单次能处理的文本量：8K约6000词，32K约24000词，128K可处理整本书内容66% 相似待验证嵌入模型的作用是把文本转换为高维向量，让机器能够以数学方式衡量语义相似度65% 相似待验证大型语言模型的上下文本质上是模型在单次推理中能够处理的全部信息总量，通常以 Token 数量衡量65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/904289

API

curl https://kongchang.com/api/v1/knowledge/claims/904289

MCP

get_claim(id=904289)