Unverified50% confidenceFactExact time
ToMe 借助 bipartite soft matching 算法，在每个 Transformer 层中找出余弦相似度最高的 token 对并合并为单个 token，该过程发生在注意力计算之前
1
Sources
50%
Confidence
Long-term
Relevance
9/15/2026
First Seen
Sources
Related Entities
Related Claims
UnverifiedTransformer架构采用自回归方式生成文本，每次输出一个Token并追加到输入序列后预测下一个Token，导致推理过程串行67% similarVerifiedtoken切分设计源于字节对编码（BPE）等分词算法65% similarUnverified投机解码技术由轻量草稿模型先生成候选Token序列再由主模型并行验证，相比逐Token串行生成可带来3-5倍速度提升65% similarUnverifiedTransformer使用位置编码（Positional Encoding）在并行计算的同时保留词的顺序信息64% similarUnverified自回归解码具有串行特性，每个Token的生成依赖前一个Token，难以并行62% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/921770API
curl https://kongchang.com/api/v1/knowledge/claims/921770MCP
get_claim(id=921770)