[控场AI]

#LLM可观测性

共 5 篇相关文章

LLM追踪数据如何跨工具流转?三种集成方案对比
·7 分钟

LLM追踪数据如何跨工具流转?三种集成方案对比

面对LLM追踪数据跨工具流转,只读API、Webhook导出器、本地CLI三种方案如何取舍?本文从生产环境的安全隐私与自动化需求出发,分析各方案的适用场景与权衡,并探讨自建管道的价值。

阅读全文 →
telemetry.dev:让AI Agent每次运行都变成可观测的Trace
·5 分钟

telemetry.dev:让AI Agent每次运行都变成可观测的Trace

telemetry.dev 把 AI Agent 每次运行映射为一条 Trace,每个模型调用和工具调用都是带耗时、Token、成本和错误的 Span,并支持 Prompt 与 Evals 同源对比、错误与成本告警,以及 TypeScript/Python SDK 和 OpenTelemetry 接入。

阅读全文 →
Langfuse vs LangSmith:普通日志为何不够用?
·5 分钟

Langfuse vs LangSmith:普通日志为何不够用?

对比Langfuse、LangSmith与普通Python日志在LLM应用中的差异,分析企业级数据隐私下的选型与部署方式,助你做出明智决策。

阅读全文 →
LLMxRay:开源LLM可观测性工具,让大模型调用不再是黑盒
·4 分钟

LLMxRay:开源LLM可观测性工具,让大模型调用不再是黑盒

LLMxRay 是一款面向大语言模型的开源可观测性工具,帮助开发者追踪LLM调用链路、监控token成本与延迟。本文解析其定位、功能方向及在LLM生态中的实际价值。

阅读全文 →
LangSmith成本失控?大规模场景下的LLM可观测性替代方案盘点
·6 分钟

LangSmith成本失控?大规模场景下的LLM可观测性替代方案盘点

LangSmith在大规模场景下成本持续攀升,越来越多AI工程团队开始寻找替代方案。本文盘点Langfuse开源自托管与orqai一体化平台两大迁移路线,剖析成本、运维与决策门槛的核心权衡。

阅读全文 →