[控场AI]
产品

Annotrace

面向LLM智能体轨迹的步骤级标注工作台,支持多种轨迹格式解析、人机协同标注和标注一致性度量

时间轴 (近 90 天)

10月19日

Annotrace支持六种轨迹格式,包括OpenTelemetry GenAI、LangSmith和Langfuse等。

待验证50%
10月19日

Annotrace将原始轨迹数据统一转换为有序的嵌套步骤列表,从而定义标注的最小单元。

待验证50%
10月19日

Annotrace允许标注者编写代码本,前沿模型基于标注者提供的轨迹样本提出初始标注集,且模型被问及与人类标注者完全相同的问题。

待验证50%
10月19日

Annotrace能够测量任意两个标注者(无论是人类还是AI)之间的一致性。

待验证50%
10月19日

在一个多智能体问答语料库上,Annotrace精确复现了先前手动标注工作的235个标注单元。

待验证50%
10月19日

两个模型对同一轨迹的标注一致率达到91%(κ=0.82)。

待验证50%
10月19日

Annotrace的开源性质(从描述推断)可能促进智能体研究领域的标准化进程。

待验证50%

全部知识事实 (7)

来源文章