[控场AI]
公司

Forecall

AI工具与MCP生态研究团队,对MCP工具描述质量进行结构化评分与端到端模型测试

时间轴 (近 90 天)

10月15日

Forecall团队对55个公开MCP服务器、共1,274个工具的描述进行了结构化评分,55个服务器的平均分从19.9到82不等,中位数仅为44。

待验证50%
10月15日

在1,274个MCP工具中,497个工具描述得分低于40,仅有18个达到80分以上。

待验证50%
10月15日

885个工具(占69%)从未在描述中说明使用场景。

待验证50%
10月15日

在156个直接提取的工具中,87个(56%)既没有输出schema,也没有在描述中说明返回内容。

待验证50%
10月15日

55个MCP服务器中有18个存在至少一对几乎相同的工具描述,共129对;其中Notion(24个工具中有57对)和Paper Search(25个工具中有29对)贡献了绝大多数重复。

待验证50%
10月15日

Forecall在4个服务器(Memory、Notion、Playwright、Chrome DevTools)的88个工具上,为每个工具生成8个单步请求,分别用Claude Sonnet 5.5和GPT-6.1 Sol测试模型选择正确率,所有服务器的正确率区间为91%到99%。

待验证50%
10月15日

工具描述得分与模型正确选择之间的Spearman相关系数仅为0.04,统计上几乎不存在关联。

待验证50%
10月15日

得分低于40的工具被正确选择的比例为95.5%,而得分60到79的工具反而达到100%。

待验证50%
10月15日

将其他服务器的25到55个工具混入候选集后,没有一次请求被误导向其他服务器的工具,准确率保持在91%到98%。

待验证50%
10月15日

当前沿模型面对未指定页码的请求时,在77%到87%的情况下会先调用list_pages再执行操作;对于browser_fill_form,模型会先获取页面快照。

待验证50%

还有 3 条时间轴事件

全部知识事实 (13)

待验证

Forecall团队对55个公开MCP服务器、共1,274个工具的描述进行了结构化评分,55个服务器的平均分从19.9到82不等,中位数仅为44。

50%
待验证

在1,274个MCP工具中,497个工具描述得分低于40,仅有18个达到80分以上。

50%
待验证

885个工具(占69%)从未在描述中说明使用场景。

50%
待验证

在156个直接提取的工具中,87个(56%)既没有输出schema,也没有在描述中说明返回内容。

50%
待验证

55个MCP服务器中有18个存在至少一对几乎相同的工具描述,共129对;其中Notion(24个工具中有57对)和Paper Search(25个工具中有29对)贡献了绝大多数重复。

50%
待验证

Forecall在4个服务器(Memory、Notion、Playwright、Chrome DevTools)的88个工具上,为每个工具生成8个单步请求,分别用Claude Sonnet 5.5和GPT-6.1 Sol测试模型选择正确率,所有服务器的正确率区间为91%到99%。

50%
待验证

工具描述得分与模型正确选择之间的Spearman相关系数仅为0.04,统计上几乎不存在关联。

50%
待验证

得分低于40的工具被正确选择的比例为95.5%,而得分60到79的工具反而达到100%。

50%
待验证

将其他服务器的25到55个工具混入候选集后,没有一次请求被误导向其他服务器的工具,准确率保持在91%到98%。

50%
待验证

当前沿模型面对未指定页码的请求时,在77%到87%的情况下会先调用list_pages再执行操作;对于browser_fill_form,模型会先获取页面快照。

50%
待验证

在早前测试中,一次将工具得分从31提升到74的改写,反而让两个模型的选择表现变差。

50%
待验证

Forecall的linter已在GitHub开源,提供在线检查(forecall.dev/en/lint)和本地命令行工具(npx forecall dump和npx forecall lint),本地使用不向外部发送数据。

50%
待验证

对于使用Pro或Team计划的Forecall用户,评估功能可报告模型选择正确率、前置查找率、参数有效性和错误调用等指标。

50%

来源文章