Logic42 Lab

Logic42 Lab进行了一项324组全因子实验，表明在生成之前引入决策模型进行意图路由，可以让7B以下的边缘小模型达到生产级可用性，同时将企业云支出削减79.1%。

80/20混合路由策略将80%的常规查询路由到边缘SLM，保留前沿云模型处理20%的模糊案例，据Logic42 Lab的FinOps规模模型可实现79.1%的净成本削减。

Logic42 Lab创始人Asif Muhammad Iqbal表示，减少输出token量是在本地边缘硬件上加速生成的唯一物理机制，你无法作弊GPU内存带宽。