#LLM可观测性
共 5 篇相关文章

·7 分钟
LLM追踪数据如何跨工具流转?三种集成方案对比
面对LLM追踪数据跨工具流转,只读API、Webhook导出器、本地CLI三种方案如何取舍?本文从生产环境的安全隐私与自动化需求出发,分析各方案的适用场景与权衡,并探讨自建管道的价值。
阅读全文 →

·5 分钟
telemetry.dev:让AI Agent每次运行都变成可观测的Trace
telemetry.dev 把 AI Agent 每次运行映射为一条 Trace,每个模型调用和工具调用都是带耗时、Token、成本和错误的 Span,并支持 Prompt 与 Evals 同源对比、错误与成本告警,以及 TypeScript/Python SDK 和 OpenTelemetry 接入。
阅读全文 →

·5 分钟
Langfuse vs LangSmith:普通日志为何不够用?
对比Langfuse、LangSmith与普通Python日志在LLM应用中的差异,分析企业级数据隐私下的选型与部署方式,助你做出明智决策。
阅读全文 →

·4 分钟
LLMxRay:开源LLM可观测性工具,让大模型调用不再是黑盒
LLMxRay 是一款面向大语言模型的开源可观测性工具,帮助开发者追踪LLM调用链路、监控token成本与延迟。本文解析其定位、功能方向及在LLM生态中的实际价值。
阅读全文 →

·6 分钟
LangSmith成本失控?大规模场景下的LLM可观测性替代方案盘点
LangSmith在大规模场景下成本持续攀升,越来越多AI工程团队开始寻找替代方案。本文盘点Langfuse开源自托管与orqai一体化平台两大迁移路线,剖析成本、运维与决策门槛的核心权衡。
阅读全文 →