待验证50% 置信事实精确时间

该基准使用锁定在特定commit的llama2.c，配合TinyStories的FP32检查点（15M、42M、110M参数），这些是跑在llama2.c上的小模型而非完整的Llama 2

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

AI优化让llama2.c跑得更快，却毁了流式体验：一个Kaggle基准的启示

涉及实体

llama2.cproduct TinyStoriesconcept

相关事实

待验证对于 LLaMA-2 70B 模型，处理 4096 token 的上下文时，FP16 精度下 KV Cache 约需 20GB 系统内存67% 相似待验证Llama 2开放了7B到70B参数规模的模型权重65% 相似待验证在Ollama的Modelfile中设置较低的num_ctx参数（如2048）可限制上下文窗口，减少KV Cache内存占用，避免内存不足导致的性能骤降65% 相似待验证Colibri覆盖9个模型家族，参数从744B到2.8T，号称16GB内存起步就能运行前沿模型64% 相似待验证该工具使用本地小模型进行转写，模型有142MB或466MB两个版本64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1002737

API

curl https://kongchang.com/api/v1/knowledge/claims/1002737

MCP

get_claim(id=1002737)