[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
Prefill / 预填充阶段
Prefill阶段
大模型推理的第一阶段,负责并行处理所有输入token并生成KV Cache,计算密集型任务,适合高算力GPU执行
来源文章
显卡涨疯了怎么办?统一内存+独显异构加速部署大模型
9月26日