待验证50% 置信基准精确时间

Intel Arc A770M的实测LLM推理吞吐有时仅相当于同级NVIDIA独显的60%~70%

1

来源数

50%

置信度

长期有效

时效性

2026/7/16

首次发现

来源

8GB显存笔记本能跑多大的本地大模型？配置指南

相关事实

待验证在完整的AI应用系统中，GPU推理通常只占总计算量的30%-40%，其余60%-70%的计算负载由CPU承担65% 相似待验证测试中4块GPU中只有1块的利用率达到约10%-13%，其余几乎处于空闲状态，而CPU使用率高达50%左右62% 相似待验证研究表明在INT4/INT8精度下多数推理和生成任务的输出质量下降幅度在1-3%以内61% 相似待验证INT8量化通过将32位浮点权重映射到8位整数，在几乎不损失精度的前提下将模型体积压缩75%61% 相似待验证自回归解码阶段GPU算力利用率往往不足10%，属于内存密集型操作61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/536140

API

curl https://kongchang.com/api/v1/knowledge/claims/536140

MCP

get_claim(id=536140)