ScaleDown
发布Constrained Decoding Models (CDM) 的AI公司,专注于任务专用小型模型,其模型包括Classify、Extract、Summarize、Compress,与LangChain有合作
时间轴 (近 90 天)
ScaleDown发布了四个小型任务模型,称为Constrained Decoding Models(CDM),针对单一任务训练,只返回该任务允许的答案。
ScaleDown CDM的四个模型中,Classify和Extract属于指向型,Summarize属于书写型,Compress未明确说明是选择还是重写。
ScaleDown将自己的产品命名为Constrained Decoding Models,容易与通用的约束解码技术混淆,但前者是特定厂商的任务专用小模型,后者是可用于任意LLM的解码时约束方法。
ScaleDown建议将小型模型环绕主LLM工作:小型模型处理例行的分类、抽取、压缩,通用模型负责需要生成的部分。
ScaleDown的Classify模型总会返回一个赢家,即使模型并不确定,因此实操中应额外加other标签并在自己的样本上实测。
指针式方法的边界包括:答案必须在输入中,合法标签不等于正确标签,Summarize是书写型而Compress未明说,大数字来自ScaleDown自己且无第三方验证,文本会离开服务器。
全部知识事实 (6)
ScaleDown CDM的四个模型中,Classify和Extract属于指向型,Summarize属于书写型,Compress未明确说明是选择还是重写。
50%待验证ScaleDown将自己的产品命名为Constrained Decoding Models,容易与通用的约束解码技术混淆,但前者是特定厂商的任务专用小模型,后者是可用于任意LLM的解码时约束方法。
50%待验证ScaleDown建议将小型模型环绕主LLM工作:小型模型处理例行的分类、抽取、压缩,通用模型负责需要生成的部分。
50%待验证ScaleDown的Classify模型总会返回一个赢家,即使模型并不确定,因此实操中应额外加other标签并在自己的样本上实测。
50%待验证指针式方法的边界包括:答案必须在输入中,合法标签不等于正确标签,Summarize是书写型而Compress未明说,大数字来自ScaleDown自己且无第三方验证,文本会离开服务器。
50%待验证ScaleDown发布了四个小型任务模型,称为Constrained Decoding Models(CDM),针对单一任务训练,只返回该任务允许的答案。
50%