本地部署大模型

在自有显卡或工作站上运行开源大模型，通过Ollama、LM Studio、vLLM等工具提供接口，推理不经过第三方服务器，强调数据主权、断网可用和无限次调用。