产品
LKMo
闭源的混合推理工具,主要做CPU调度层面的工作。
时间轴 (近 90 天)
10月25日
UP主最初学习并修改了B站UP主“爱跳绳的奶龙”开发的LS济浪和LKMo,并在RTX Pro 5000上验证;因LKMo闭源遇到瓶颈,后基于官方SGLang发行版重做Xtier。
待验证50%
闭源的混合推理工具,主要做CPU调度层面的工作。
UP主最初学习并修改了B站UP主“爱跳绳的奶龙”开发的LS济浪和LKMo,并在RTX Pro 5000上验证;因LKMo闭源遇到瓶颈,后基于官方SGLang发行版重做Xtier。