待验证50% 置信事实精确时间

NUMA架构下每颗CPU访问本地内存的速度远快于访问其他CPU管辖的远端内存，跨NUMA节点数据传输会显著拉低实际带宽利用率

1

来源数

50%

置信度

长期有效

时效性

2026/10/3

首次发现

来源

无GPU也能跑大模型？老旧DDR3服务器的本地推理性价比探讨

涉及实体

相关事实

待验证传统存储访问路径需要数据多次经过CPU内存中转，消耗CPU周期并在GPU与存储间制造性能鸿沟72% 相似待验证cuObject的思路与NVIDIA此前的GPUDirect Storage一脉相承，核心是缩短数据从存储到计算单元的路径并减少CPU参与71% 相似待验证现代 x86-64 服务器采用 NUMA 拓扑，同一 socket 内核心访问本地内存延迟约 80ns，跨 socket 访问可能高达 160–300ns69% 相似待验证为保证16G显存推理速度，核心原则是不要让权重被卸载到内存(offload)，因为GPU显存带宽与CPU内存带宽存在近10倍差距68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/969838

API

curl https://kongchang.com/api/v1/knowledge/claims/969838

MCP

get_claim(id=969838)