[控场AI]
概念

Allocator

ACCT迁移方法的组件之一,在共享的总KV预算约束下决定每个目标层和KV头保留的token数量,实现非均匀的稀疏资源分配。

来源文章