[控场AI]
待验证50% 置信事实精确时间

在12GB显存配置中，Breeze TTS2需约8.5GB显存（权重加运行时开销）且必须全部在GPU上运行，而LLM部分在128K上下文时约占近4GB。

1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/29
首次发现
有效期至：2027/1/27

来源

单卡12G跑本地实时语音AI：35B模型+语音对话全流程
bilibili枫叶边城2026/10/29

涉及实体

Breeze TTS2modelQwen 3.6 35Bmodel

相关事实

待验证Llama 3.1 8B每个token的KV缓存开销约为128KB78% 相似待验证该用户在8GB显存的GPU上，32k上下文下运行稳定，推到42k上下文时距离显存崩溃只剩约130MB余量，无法上64k。78% 相似待验证TTM 模型参数量仅约 0.8M（百万级），文件大小约三兆字节，无需 GPU，在普通 CPU 上就能运行75% 相似

引用此条事实

Stable URI
https://kongchang.com/claim/1112080
API
curl https://kongchang.com/api/v1/knowledge/claims/1112080
MCP
get_claim(id=1112080)