待验证50% 置信事实精确时间
heterodyne 利用 llama.cpp 调度器的 cb_eval 回调，在计算到指定图节点时复制或覆写张量，实现激活移植。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
涉及实体
相关事实
待验证llama.cpp 的算子优化和量化格式支持会随版本演进调整，可能影响推理速度和显存占用。60% 相似待验证llama.cpp 会先将模型存入内存，再从内存复制到显存，这源于操作系统的内存映射（mmap）机制58% 相似待验证llama.cpp是一个纯C/C++实现的推理框架，通过量化技术将模型的内存占用大幅降低58% 相似已验证Rerank（重排序）使用Cross-Encoder模型对Top-K召回的候选片段重新打分排序，精度远高于Bi-Encoder56% 相似待验证llama.cpp通过mmap机制将部分权重映射到内存/磁盘，但调度策略对模型结构不知情，无法做出智能预取决策55% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1054503API
curl https://kongchang.com/api/v1/knowledge/claims/1054503MCP
get_claim(id=1054503)