#本地化部署
共 145 篇相关文章
·13 分钟
Qwen 3.8 Max登顶Agentic榜单：本地化部署拐点将至？
Qwen 3.8 Max在Artificial Analysis Agentic指数中超越Opus 5登顶，Reddit社区热议开源模型本地化部署前景。本文深入分析榜单分数与实际体验的落差、指令遵循能力的重要性，以及智能体模型在自动化工作流中的真实表现。
阅读全文 →
·12 分钟
Claude Code本地化部署：三种方案原理与实战指南
详解Claude Code本地化部署的核心架构与三种主流方案（LM Studio、Ollama、vLLM），涵盖环境变量配置、协议转换、硬件选型与模型推荐，助你零成本运行AI编程智能体。
阅读全文 →
·9 分钟
Claude Code本地化部署：接入本地大模型实战指南
详解Claude Code本地化部署的完整方案，涵盖核心架构解析、Ollama/LM Studio/vLLM推理引擎选择、协议转换配置、硬件需求及模型选择策略，助你实现零成本、数据不出域的AI编程体验。
阅读全文 →
科技前沿
开源探索·第1期：开源大模型降门槛本地化部署与Agent生态
·1 分钟
开源探索·第1期：开源大模型降门槛本地化部署与Agent生态
每周四挖掘值得关注的AI开源项目
阅读全文 →
·12 分钟
Qwen3.8-Max参数2.4T深度解读：定价、能力与国产模型竞争格局
阿里发布Qwen3.8-Max Preview，参数量达2.4T，支持1M上下文窗口，聚焦编码与生产力场景。本文深度分析其定价体系、能力表现、与Kimi K3和DeepSeek的竞争格局，以及对阿里云MaaS业务的传导效应。
阅读全文 →
·15 分钟
魔改2080Ti本地部署Qwen3 27B实测：FP8量化低成本方案
实测魔改2080Ti显卡通过FP8量化本地运行Qwen3 27B多模态大模型，详解硬件配置、推理速度、显存占用及架构兼容性问题，为预算有限的开发者提供低成本本地部署方案。
阅读全文 →
·11 分钟
OpenAI黑客模型95%不拒答、Claude推进黎曼猜想记录
OpenAI推出GPT-5.6 Cyber黑客模型，95%高危安全请求不再拒答；Claude将黎曼猜想相关记录从41.6%推至67.2%；Meta开源300亿参数本地智能体模型；腾讯WorldCloud一句话生成3D世界。深度解析四大AI前沿进展。
阅读全文 →
·16 分钟
t0md：一键把任意文档转成干净Markdown，内置MCP Server直连AI
t0md是一款免费免注册的在线文档转Markdown工具，支持PDF、Word、PPT、HTML、JSON格式转换。内置MCP Server可直接接入Claude、Cursor等AI Agent工作流，让AI自动消化非结构化文档。
阅读全文 →
·11 分钟
IT就业方向全解析：6大赛道选择指南与学历匹配策略
深度解析算法工程师、大模型开发、AI+编程、具身智能、FDE、智能测试6大IT就业赛道，按学历背景给出概率化选择建议，帮助不同起点的从业者找到最优入行方向。
阅读全文 →
·14 分钟
AI测试落地实战：三大痛点与高性价比方案选型指南
深入分析AI在软件测试落地中的三大真实痛点——输出随机性、Token成本和执行效率，详解「AI生成+代码执行」的主流方案思路，帮助测试人员选对性价比最高的AI落地方案，应对行业变革。
阅读全文 →
·14 分钟
Supercut：本地AI视频编辑器，零上传零注册保护隐私
Supercut是一款主打隐私保护的本地化AI视频编辑器，所有处理在设备端完成，支持自然语言剪辑指令、屏幕录制自动缩放、自动字幕等40款工具，免费起步无需账户，适合注重数据安全的创作者。
阅读全文 →
·9 分钟
用Rust打造媲美Llama.cpp的LLM推理引擎
探讨用纯Rust构建性能匹敌Llama.cpp的LLM推理引擎的技术路径，分析Rust在内存安全、SIMD优化、GPU后端支持等方面的优势与挑战，展望本地化大模型推理的未来。
阅读全文 →
·14 分钟
RAG实战：用检索增强生成打造百万级医疗问诊AI系统
详解如何用RAG（检索增强生成）技术构建覆盖790种疾病、170万条问诊数据的医疗AI助手，涵盖知识库构建、向量检索、BERT微调、召回排序优化等核心环节的完整实战方案。
阅读全文 →
·9 分钟
OpenCode实战指南：Claude Code开源平替的安装配置与使用教程
详解OpenCode这款开源AI编程终端工具的完整使用指南，涵盖桌面端与WSL两种安装方式、模型配置、规则文件设置、自定义命令与MCP服务集成，帮助开发者快速上手这款Claude Code开源替代方案。
阅读全文 →
·8 分钟
Perplexity Max订阅付费后credits未到账？200美元争议事件与维权指南
Perplexity Max用户反映支付200美元订阅费后credits未到账且客服无回应。本文分析AI订阅服务计费透明度、客服缺失等痛点，并提供付费争议的实用维权建议。
阅读全文 →
·12 分钟
LocusTether：基于Jetson Thor的零云端AI可穿戴本地化方案
LocusTether是一个完全本地化的AI可穿戴替代方案，基于Jetson Thor边缘设备运行Whisper语音转录和Ollama大模型推理，实现零云端依赖的对话记录与摘要生成，真正保障数据隐私安全。
阅读全文 →
·15 分钟
Unsloth发布DeepSeek V4 Flash量化版：162GB实现无损运行
Unsloth团队发布DeepSeek V4 Flash 0731的UD动态量化版本，提供从162GB无损到83GB极限压缩共六个版本。采用MXFP4+BF16混合精度方案，为本地部署大模型提供完整精度梯度选择。
阅读全文 →
·13 分钟
双DGX Spark部署DeepSeek V4 Flash可行性分析
深入分析在两台NVIDIA DGX Spark上本地离线部署DeepSeek V4 Flash大模型的可行性，探讨显存容量、内存带宽、MoE架构通信开销等关键瓶颈，并给出量化方案与实践建议。
阅读全文 →
·15 分钟
Unsloth联手Thinking Machines：1-bit动态量化压缩86%，270GB跑多模态大模型
Unsloth与Thinking Machines合作推出Inkling模型动态1-bit GGUF量化版本，将模型从1.9TB压缩至270GB，缩减86%且保留74.2%准确率，并支持视觉和音频多模态能力，大幅降低本地部署门槛。
阅读全文 →
·14 分钟
Laguna S 2.1发布：多种部署方式如何改变AI产品竞争格局
Laguna S 2.1发布，主打灵活部署策略，支持云端API、本地私有化部署等多种运行方式。本文分析其部署优先的产品理念，探讨数据主权、成本控制与供应商锁定等关键议题，解读AI基础设施竞争新趋势。
阅读全文 →