[控场AI]

#本地模型

共 37 篇相关文章

Green Stop:用本地开源模型重塑孟买通勤体验
·3 分钟

Green Stop:用本地开源模型重塑孟买通勤体验

Green Stop 是开发者 Ujjwal Gupta 在 Dev.to 分享的孟买通勤重置工具,完全运行在本地开源权重模型上。本文分析其离线优先设计、场景定位以及对本地化 AI 应用的工程启示。

阅读全文 →
花哨提示词不影响小模型,唯格式行决定成败
·7 分钟

花哨提示词不影响小模型,唯格式行决定成败

一项覆盖8个本地LLM、超5000次调用的测试表明,华丽的提示词风格对小模型影响甚微,真正决定输出质量的是格式指令行——它甚至能造成45分的性能差距。

阅读全文 →
Localix:开源智能体开发环境,多模型与本地AI集成
科技前沿
·6 分钟

Localix:开源智能体开发环境,多模型与本地AI集成

Localix是一款MIT开源协议的智能体开发环境(ADE),支持Claude Code插件无缝加载、多模型云端与本地运行、Mini Apps扩展及智能体上下文管理,为开发者提供开放的AI协作工作台。

阅读全文 →
同一个插件,86.1%还是8.5%省Token?测准是前提
·8 分钟

同一个插件,86.1%还是8.5%省Token?测准是前提

同一个 dsh-phocinae 插件在 400 个用例上,τ=0.4 时省 86.1% 计费 Token,τ=0.6 时只有 8.5%。本文拆解 Token 节省的三个计数器、每案例 3055.5 tokens 的账单结构,以及如何在自己的流量上复现测量。

阅读全文 →
本地大模型能取代 Claude Code 吗?SWE-bench 用错了
·16 分钟

本地大模型能取代 Claude Code 吗?SWE-bench 用错了

SWE-bench 分数逼近云端,本地大模型真能替代 Claude Code 吗?本文拆解 2026 年七大家族的真实用途、24GB 显存甜点区、工具调用可靠性这堵被排行榜隐藏的墙,以及本地 vs 云端的分工账。

阅读全文 →
微软Hybrid Intelligence上线:Windows版Copilot如何读懂你的PC
·4 分钟

微软Hybrid Intelligence上线:Windows版Copilot如何读懂你的PC

微软为Windows版Copilot推出Hybrid Intelligence混合智能,可在用户授权下读取PC上下文、代替执行操作,并在合适场景调用本地模型,兼顾能力提升与算力成本节省。本文解析其三大能力与行业意义。

阅读全文 →
ChatGPT智能UI被24小时逆向工程,开源版可用本地模型复现
·4 分钟

ChatGPT智能UI被24小时逆向工程,开源版可用本地模型复现

ChatGPT新推出的智能UI(生成式UI)功能在发布24小时内被团队逆向工程,并推出开源版Open Intelligent UI,支持通过Ollama、LM Studio等本地LLM复现类似体验。本文解析生成式UI的技术光谱与本地推理可行性。

阅读全文 →
AnswerUI:ChatGPT智能界面的开源替代,支持任意本地模型
·4 分钟

AnswerUI:ChatGPT智能界面的开源替代,支持任意本地模型

开发者开源了 ChatGPT Intelligent UI 的替代方案 AnswerUI,支持 Ollama、Kimi、OpenRouter 等任意 OpenAI 兼容模型,可本地运行。回答以滑块、图表等交互界面呈现,一条命令即可启动,无遥测、重隐私。

阅读全文 →
PewDiePie被OpenAI两度封号:本地模型的意外广告
·4 分钟

PewDiePie被OpenAI两度封号:本地模型的意外广告

PewDiePie因使用OpenAI API生成训练数据微调本地模型Ajax,两度被OpenAI封号,最终转向开源工具搭建9B本地智能体。这场风波意外成为本地AI与开源模型的免费广告,也引发数据使用双重标准的讨论。

阅读全文 →
手机本地跑AI模型:Observer开源智能体体验
科技前沿
·5 分钟

手机本地跑AI模型:Observer开源智能体体验

Observer是一款开源、完全本地运行的手机AI智能体,支持iOS和Android,用OneJev-0.8b和qwen-0.8b模型在旧手机上监控现实场景,本文介绍其功能、模型选择与端侧隐私设计。

阅读全文 →
LM Studio 完全教程:本地运行大模型的最佳方式
·7 分钟

LM Studio 完全教程:本地运行大模型的最佳方式

LM Studio 完整使用教程:从下载安装、按显存挑选模型、量化与上下文优化,到启用兼容 OpenAI 的本地 API 服务器并接入 VS Code。手把手教你在自己电脑上免费运行本地大模型。

阅读全文 →
SmallCoder实测:零API成本的本地AI编程智能体
·7 分钟

SmallCoder实测:零API成本的本地AI编程智能体

SmallCoder是一款开源免费、专为本地开源模型优化的AI编程智能体,支持Ollama与LM Studio自动检测,零API成本离线运行。本文实测安装流程、计划与压缩机制,以及用大模型规划+小模型执行构建复杂项目的技巧。

阅读全文 →
M4 Max实测Qwen 27B:本地模型的tokens/s背后真相
·9 分钟

M4 Max实测Qwen 27B:本地模型的tokens/s背后真相

开发者在M4 Max MacBook Pro上系统实测Qwen 27B本地模型,揭示tokens/sec之外被忽略的TTFT、提示处理与内存压力。MLX相比GGUF解码提速近4倍,128K上下文满载却需等待20分钟以上。

阅读全文 →
Otis:开箱即用的本地AI Agent工具解析
·2 分钟

Otis:开箱即用的本地AI Agent工具解析

Otis是一款主打本地模型开箱即用的极简开源AI Agent工具。本文解析其设计理念、本地运行大模型的价值与挑战,以及极简路线对开发者的意义。

阅读全文 →
不花20美元:Claude Code免费接入本地与云端模型的三种方案
科技前沿
·10 分钟

不花20美元:Claude Code免费接入本地与云端模型的三种方案

Claude Code本身免费,收费的是背后的AI模型。本文整理三种零成本方案:Ollama本地引擎断网可用、OpenRouter云端免费模型池、OmniRoute聚合多提供商额度,另附VS Code内KiloCode轻量替代,并说明各自的速度、隐私与额度上限。

阅读全文 →
腾讯Marvis深度体验:系统级AI助手如何重新定义人机交互
产品体验
·7 分钟

腾讯Marvis深度体验:系统级AI助手如何重新定义人机交互

深度体验腾讯Marvis系统级AI助手,解析其本地知识库、语义搜索、隐私模式等核心功能,探讨Agent从工具到操作系统融合的产品演进方向。

阅读全文 →
LLM六个月巨变:编码代理崛起、OpenClaw爆发与本地模型逆袭
观点碰撞
·1 分钟

LLM六个月巨变:编码代理崛起、OpenClaw爆发与本地模型逆袭

Simon Willison在PyCon US 2026回顾LLM领域半年巨变:2025年11月编码代理跨越质量门槛,OpenClaw引爆个人AI助手热潮,Qwen等开源模型在笔记本上媲美前沿模型,AI编码格局正在被重塑。

阅读全文 →