待验证50% 置信事实精确时间
现代嵌入模型通常基于Transformer架构（如BERT及其变体），将文本编码为固定维度的稠密向量（常见维度为768、1024或更高）。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证大语言模型底层的Transformer架构不直接处理原始字符，而是先通过分词器将文本切分为子词单元，再映射为高维向量进行计算77% 相似待验证Transformer模型只能处理数值张量，需要分词器将文本转换为整数ID序列后通过嵌入层映射为连续向量76% 相似待验证CLIP的文本编码器基于Transformer架构，将输入文本映射为512维或768维的嵌入向量75% 相似已验证大语言模型基于Transformer架构，通过海量文本数据训练而成73% 相似待验证多模态大语言模型通常通过投影层或适配器将图像/语音特征映射到与文本相同的嵌入空间，再交由Transformer解码器统一处理73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1016082API
curl https://kongchang.com/api/v1/knowledge/claims/1016082MCP
get_claim(id=1016082)