#大模型原理

LLM如何生成一个词：从Token到KV Cache的完整链路

从token切分到transformer注意力，从Prefill/Decode两阶段到KV Cache成本，再到LLM为何没有记忆，一文讲清大模型生成一个词的完整链路与长上下文昂贵的根本原因。