自托管 AI 编程工具通常需要至少 16GB 显存的 GPU（跑 7B-14B 量化模型），系统内存占用可能达到显存的 1.5-2 倍，并需要 CUDA 或 ROCm 环境。