待验证50% 置信事实精确时间
决策模型底层使用laya模型,该模型体积为449 MB,采用Apache-2.0许可。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/29
首次发现
有效期至:2027/1/27
来源
涉及实体
相关事实
待验证Laya采用Apache 2.0许可,完全自托管(laya-serve),另有一个免费Demo Space;由ModernBERT-large 421M和mmBERT-base 322M编码器组成,可在T4甚至CPU上运行,CPU延迟193–464ms62% 相似待验证目前决策模型仅支持本地运行,模型体积449 MB对于资源受限的环境可能仍有压力。62% 相似待验证1250 亿参数模型能跑在 12G 显存上,核心依赖模型量化与混合专家(MoE)架构,通过只激活部分专家参数、将权重量化至 4bit 或更低并按需从内存或 SSD 动态加载未激活参数来实现。59% 相似待验证该工具使用本地小模型进行转写,模型有142MB或466MB两个版本58% 相似待验证对于816B这类超大MoE模型,即使只激活42B参数,原始权重仍需完整驻留内存,量化几乎是消费级硬件上运行的前提。58% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1112294API
curl https://kongchang.com/api/v1/knowledge/claims/1112294MCP
get_claim(id=1112294)