待验证50% 置信事实精确时间
Strata 0.1.41 让 A750 的采样器去掉 FP64,解码速度从 9.8 提升到 12.0 token 每秒,提升 22%。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/11/5
首次发现
此条事实已过期,仅作历史留存,不再代表当前状态
有效期至:2026/11/19(已过期)
来源
涉及实体
相关事实
待验证Strata 0.1.21 支持二到三张英伟达卡的成对拆分,5080 加 3090 在 32k 下提示词处理速度从 1970 提升到 2357 token 每秒。77% 相似待验证Strata 0.1.16 接入搜索模型 Gsqrcocoder,内存门槛降到 32GB,12G 显卡提示词处理速度达 599 到 1350 token 每秒。74% 相似待验证在约25万Token的超长上下文下,Strata的解码速度维持在每秒83.1个Token,而Avalon从每秒71个Token下滑到59.5个Token。74% 相似待验证在单张 NVIDIA A40、fp32 且关闭 TF32、batch size 1、贪心解码的设置下,GPT-2 small 使用 KV 缓存后,上下文长度 1000 时单 token 延迟从 29.69 ms 降至 4.95 ms,约 6 倍。71% 相似已验证LLaMA-2-7B使用FP16精度时每个token的KV Cache约占0.5MB68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1141164API
curl https://kongchang.com/api/v1/knowledge/claims/1141164MCP
get_claim(id=1141164)