#LLM
共 78 篇相关文章

有了大语言模型,为什么技术文档还是错的?
大语言模型让写文档变得更容易,但技术文档为何依旧错误频出?本文从代码意图缺失、同步机制薄弱、LLM幻觉等角度分析根源,并提出文档即测试、人机协同等务实解法。

AI交易智能体新思路:让LLM写策略而非做决策
一个AI交易智能体平台将LLM从实时交易员改为策略作者,用自然语言生成可执行量化策略,解决了AI每日决策随机、无法归因改进的痛点,并提供公开不可篡改的业绩记录与GitHub式策略分享。

AI分析海量技术文档:事实抽取、RAG校验与异常检测实战方案
面对数千份、单份达600页的技术交付文档,如何用AI自动核验事实、检测矛盾与重复?本文剖析事实抽取、结构化schema、BM25+向量混合RAG检索及长上下文模型的工程取舍,提供可落地的大规模文档分析方案。

Kernl:压缩LLM对话记忆82.9%的开源Python库
Kernl 是一个开源 Python 包,通过 DSPM 动态语义补丁记忆技术,将 LLM 对话记忆压缩高达 82.9% 且不丢失关键信息。本文解析其技术思路、使用方式与实际应用中的注意事项。

GPT到底怎么工作?用一句话拆解大语言模型黑箱
通过"我最喜欢的摇滚乐队是……"这一句话,拆解GPT等大语言模型的工作原理:从分词、向量嵌入到注意力机制与逐词预测,用可视化方式帮AI初学者理解LLM黑箱。

Praxa:让AI智能体执行从提议到验证可追溯的治理框架
arXiv新论文提出AI智能体执行框架Praxa,通过确定性准入、经纪式执行和外部回读等机制,将智能体从授权到效果的状态转换显式化、可测试化,并以四条证据链诚实呈现能力边界。

个人用LLM单枪匹马造出C编译器Kcc:能引导Linux内核
一位开发者借助大语言模型(LLM),以每月约100美元的成本单人打造出C编译器Kcc,并称其能编译引导Linux内核。本文解析这一AI辅助编程案例的意义与局限。

一条命令搭建本地AI服务器:ODS开源部署LLM/RAG/绘图全攻略
ODS(Osmatic部署系统)是一个Apache 2.0开源项目,一条命令即可在本地部署LLM推理、RAG、图像生成、语音智能体等完整AI技术栈,支持Linux/Windows/macOS。本文解析其功能、端口约定、可信度与实操建议。

如何挑选最佳LLM团队?异质性驱动的模型协同选择框架
一篇arXiv新研究提出异质性驱动的LLM团队选择框架,通过错误去相关和预测行为分歧两个互补信号衡量模型协同效果,将团队组建转化为可优化的组合问题,实验证明其持续优于仅看质量的基线方法。

AI导师如何破解学生学习僵局?万次对话研究揭示关键规律
一项基于两万条真实对话的研究揭示了引导式AI导师如何应对学生学习僵局。研究发现僵局越深脱困越难,持续提问效果递减,而直接纠错反而更有效,为AI教育产品设计提供了数据支撑。

延迟标签困境:如何评估读取网络文本的购买信号Agent
当AI Agent从招聘启事、财报、播客等杂乱网络文本中提取购买信号,而真实采购标签要几个月后才出现时,该如何评估其有效性?本文剖析延迟标签、样本偏差与LLM-as-judge自评等核心难题,并梳理代理标签、置信度校准等破局思路。

AI大模型+开源硬件:如何重构传统草饲牧场
Firecrawl 工程师 Cody 在 AI Engineer 大会分享如何用 LLM 大模型与开源硬件自动化草饲牲畜轮牧系统,涵盖卫星影像、生物量分析、开放项圈与叠层放牧,呼吁工程师解决更大的真实世界问题。

为什么AI Agent需要决策模型?别让生成式LLM包揽一切
Agent框架普遍把生成式LLM当成唯一工具,导致延迟高、成本贵、结果脆弱。本文解析"决策模型"架构思路:将决策与生成分离,通过动态技能注入、记忆压缩、幻觉闸门和Schema拆分四种方式,让AI Agent更快、更省、更可预测。

Jev与System One模型:LLM的新形态"决策模型"
TypeSafe AI 推出 Jev,一种输出浮点数而非文本的新型 LLM——决策模型(System One)。本文解析其是非/选择/评分三类问题、极低价格、搜索重排等应用,以及黑盒偏见隐忧和开源复现浪潮。

Twigg:让LLM上下文管理自动化的有状态API
Twigg 是一个有状态的 LLM 调用 API,自动处理上下文管理:适配模型 schema、智能压缩截断、路由调用,并通过仪表盘管理工具 schema、系统提示与用量账单,让开发者无需再手动构建上下文层。

从纳维-斯托克斯之谜看:为何我依然看空大语言模型
一篇Hacker News热帖以纳维-斯托克斯数学难题为切入点,探讨为何作者依然看空大语言模型的推理能力。本文剖析LLM在严密数学推理上的局限、可验证性缺失与规模化收益递减等争议焦点。

OpenArch:用PyTorch复现现代大模型架构的开源项目
OpenArch 是一个用 PyTorch 复现现代大语言模型架构的开源项目,专注于清晰可读的架构实现。本文分析其项目定位、适用人群以及这类 LLM 架构复现工具的价值与风险。
行业洞察AI产品开发实战:模型选择、护城河构建与商业化路径
分享AI产品开发的实战策略,包括为什么不应从头训练模型、如何选择API调用与微调时机、构建产品护城河的关键要素,以及从评测体系搭建到商业化落地的完整执行路径。
产品体验One API:统一管理30+大模型的开源API网关完整指南
One API是GitHub 32K+ Star的开源大模型API网关,支持OpenAI、Claude、DeepSeek等30+模型统一接入。详解核心功能、Docker部署、Key管理、负载均衡与企业级应用场景,附技术架构深度解析。
产品体验One API:统一管理30+大模型的开源网关系统完整指南
One API 是 GitHub 3.2万星标的开源LLM API网关,支持OpenAI、Claude、DeepSeek等30+大模型统一管理与分发。详解核心功能、Docker部署方式、Key管理机制与企业AI中台应用场景。