待验证50% 置信基准精确时间
ExecuTorch 1B在模拟器上需1.14GB下载(6分12秒)、每次启动约5秒加载、生成时约907MB应用内存、生成速度43 tokens/s,后续调用首字时间中位数579ms
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/12
首次发现
有效期至:2027/1/10
来源
涉及实体
相关事实
待验证若量化后模型权重为150GB,以273GB/s带宽读取一遍权重约需0.55秒,理论上单token生成速度约为1.8 token/s(未计入计算延迟和跨机通信开销)76% 相似待验证V8 Isolates启动新Isolate的时间不到5毫秒,内存占用仅3-5MB,单个物理服务器可同时运行数十万Isolate75% 相似待验证在M4 Pro芯片、24GB统一内存的MacBook Pro上通过llama.cpp运行,文本解码速度为10.13 tokens/秒,完整任务每个耗时4到7分钟72% 相似已验证对于7B参数模型的4-bit量化版本,通常需要至少8GB内存和现代多核CPU即可流畅运行,推理速度约为每秒10-30个token72% 相似待验证Harness约有900多个依赖,总量约1GB左右,首次安装通常需要2到5分钟70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1003198API
curl https://kongchang.com/api/v1/knowledge/claims/1003198MCP
get_claim(id=1003198)