大模型本地部署

指将大型语言模型部署在本地硬件（如个人PC、服务器）上运行推理，无需依赖云端API，具备数据隐私保护和离线使用的优势，通常借助llama.cpp、vLLM等推理框架实现。