待验证50% 置信事实精确时间
Shieldstral 模型卡显示其为 Apache 2.0 许可的 checkpoint,BF16 下需要约 16 GB 显存,Mistral 建议使用训练时的 32k 上下文区间。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至:2027/1/13
来源
用Shieldstral为Java LLM应用构建可测量的护栏
rss2026/10/15
涉及实体
相关事实
待验证Shieldstral可以在单张16GB显存的GPU上运行67% 相似已验证35B模型在FP16精度下需要约70GB显存,远超RTX 5090的32GB容量,因此单卡部署需量化65% 相似待验证该测试的硬件基准为10-16GB显存配合26-32GB内存,借助Kobold或llama.cpp后端,可在最高64K上下文窗口下运行64% 相似待验证RTX Spark 的 128 GB 统一内存在容量上可以容纳 70B 级别模型(4-bit 量化后约 35-45 GB),但能否达到接近云端 Agent 的流畅度尚待实际评测验证。62% 相似已验证32B参数规模的模型在量化后通常可以压缩到约16-20GB显存占用,一张NVIDIA RTX 4090(24GB显存)就能运行62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1034555API
curl https://kongchang.com/api/v1/knowledge/claims/1034555MCP
get_claim(id=1034555)