待验证50% 置信事实精确时间
开发者通过将上下文从128K压缩到32K,使总显存占用(含Whisper)压到12GB以下,但第一版体验下用户说完话到AI开口约需10到11秒。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/29
首次发现
有效期至:2027/1/27
来源
单卡12G跑本地实时语音AI:35B模型+语音对话全流程
bilibili枫叶边城2026/10/29
涉及实体
相关事实
待验证31M 参数、64 MB 的规模意味着声码器与嵌入表经过了显著压缩,可能采用了参数量化(如 int8)、知识蒸馏或轻量声码器方案。71% 相似待验证Whisper原始FP32版本的Tiny模型约150MB,经INT8量化后可压缩至约40MB,在树莓派4B上可实现实时转写70% 相似待验证OpenAI的Whisper large-v3模型在Apple M2芯片上处理1小时视频的语音转录约需10-15分钟,而在云端A100 GPU上仅需约2分钟69% 相似待验证硬件编码器(NVIDIA NVENC、Intel Quick Sync、Apple VideoToolbox)可将编码延迟压缩到2-5毫秒,纯软件编码(x264/x265)延迟通常在10-30毫秒69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1112081API
curl https://kongchang.com/api/v1/knowledge/claims/1112081MCP
get_claim(id=1112081)