Qwen3-TTS 1.7B

通过去重Q/K/V权重节省488 MiB显存，将文本嵌入表保留在CPU节省594 MiB，使得Gemma 4 E4B与Qwen3-TTS 1.7B两个模型能同时加载，显卡显示8,188 MiB中占用7,448 MiB。

该本地语音助手系统完全自托管，语音检测和识别跑在CPU上，LLM（Gemma 4 E4B，QAT q4_0量化，基于llama.cpp）负责生成回答，TTS（Qwen3-TTS 1.7B）逐句合成语音。