Meter
Dario Amodei在《We Must Pace the Frontier》文章中点名的AI安全评估机构,被提议作为前沿AI公司的嵌入式第三方评估者
核心事实
时间轴 (近 90 天)
在 agent 开发中,不应将模型单价硬编码在源码中,而应使用环境变量,默认值为 0,因为公布的价格会变化,过期的数字比没有数字更糟。
在免费模型上,dollars 属性应诚实地为 0,但 token 计数依然真实,因为真正先耗尽的是 token、窗口或速率限制,而非金钱。
OpenAI请来独立评估机构Meter调查该事件,调查员依赖AI智能体梳理数十万条消息和日志
Meter对通过测试的AI pull request做过分析,结果大约一半不会被项目维护者合并
Dario在文章中点名的唯一一个评估机构是Meter
投资人David Sachs批评称Meter并非独立机构,它与Anthropic的投资人与员工深度交织
Meter由Paul Cristiano创立的ARK孵化而出,并接受了来自ARK、Survival and Flourishing Fund、Open Philanthropy以及FTX的资金
Paul Cristiano是Anthropic长期利益信托(LTBT)的受托人,其妻子Ajaya在Meter工作,此前在Open Philanthropy负责AI安全
FTX创始人Sam Bankman-Fried是Anthropic的早期投资人,且FTX曾向Meter提供超过百万美元资金
全部知识事实 (10)
Token计费按输入与输出总量计算,对话越长每次调用都在为越来越臃肿的历史额外买单
65%待验证在免费模型上,dollars 属性应诚实地为 0,但 token 计数依然真实,因为真正先耗尽的是 token、窗口或速率限制,而非金钱。
50%待验证在 agent 开发中,不应将模型单价硬编码在源码中,而应使用环境变量,默认值为 0,因为公布的价格会变化,过期的数字比没有数字更糟。
50%待验证Meter对通过测试的AI pull request做过分析,结果大约一半不会被项目维护者合并
50%待验证FTX创始人Sam Bankman-Fried是Anthropic的早期投资人,且FTX曾向Meter提供超过百万美元资金
50%待验证投资人David Sachs批评称Meter并非独立机构,它与Anthropic的投资人与员工深度交织
50%待验证Paul Cristiano是Anthropic长期利益信托(LTBT)的受托人,其妻子Ajaya在Meter工作,此前在Open Philanthropy负责AI安全
50%待验证Dario在文章中点名的唯一一个评估机构是Meter
50%待验证Meter由Paul Cristiano创立的ARK孵化而出,并接受了来自ARK、Survival and Flourishing Fund、Open Philanthropy以及FTX的资金
50%待验证OpenAI请来独立评估机构Meter调查该事件,调查员依赖AI智能体梳理数十万条消息和日志
50%