概念Shared History Attention Cache
共享历史注意力缓存
一种推理优化技术,在多次采样之间复用历史编码的注意力缓存,避免对相同历史输入的重复计算,提升生成多条路径的效率
时间轴 (近 90 天)
10月16日
PathFM 采用共享历史注意力缓存,在多次采样之间复用历史编码,避免重复计算。
待验证50%
一种推理优化技术,在多次采样之间复用历史编码的注意力缓存,避免对相同历史输入的重复计算,提升生成多条路径的效率
PathFM 采用共享历史注意力缓存,在多次采样之间复用历史编码,避免重复计算。