待验证50% 置信基准精确时间
QuarkDash 在 TypeScript 实现下吞吐量可达 2.8 GB/s，会话建立时间低于 10 ms。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/14
首次发现
有效期至：2027/1/12
来源
涉及实体
相关事实
待验证Quantprobe 宣称能让仅有 6GB 显存和 16GB 内存的机器以 22 tokens/s 的速度运行 30B 级别的模型66% 相似待验证在 100 万向量规模下，PRISM 在 2GB 的 c8g.medium 上做到 99% recall、15 毫秒中位延迟；HNSW 在 4GB 的 c8g.large 上是 392 毫秒，构建花了约 21.7 小时并出现内存抖动。64% 相似待验证上下文窗口越大，缓存越多、内存占用越大、速度越慢；以Qwen 3.8为例，256K上下文窗口的缓存可达17GB，速度比小窗口慢两倍64% 相似已验证4-bit量化（如Q4_K_M）通常可将3B模型内存占用从约6GB压缩至约2GB，精度损失低于2-3%63% 相似已验证对于7B参数模型的4-bit量化版本，通常需要至少8GB内存和现代多核CPU即可流畅运行，推理速度约为每秒10-30个token63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1031432API
curl https://kongchang.com/api/v1/knowledge/claims/1031432MCP
get_claim(id=1031432)