待验证50% 置信事实精确时间
Hy-Memory-30B-A3B采用HYV3ForCausalLM架构,128个路由专家、每token激活8个,48层、隐藏维度2048,最大位置嵌入262,144,支持中英文。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
涉及实体
相关事实
待验证vLLM v0.31.0测试中,vllm serve tencent/Hy-Memory-30B-A3B --served-model-name hy-memory可启动BF16检查点,权重约60 GB,需一张80 GB卡或两张48 GB卡张量并行。69% 相似待验证Hy-Memory-30B-A3B本身不存储记忆,而是作为记忆写入器,专门筛选信息写入外部记忆库并更新旧条目。65% 相似待验证以LLaMA-3 70B模型为例,在80层、head_dim=128、BF16精度下,每个token大约占用80KB的KV缓存63% 相似待验证A100/H100等数据中心GPU采用HBM高带宽内存技术,通过3D堆叠实现80GB乃至更大显存容量59% 相似待验证JEV-27B-VL 对外暴露两个互不相同的接口:System 1 读取 logits 并返回带类型的决策和校准概率,支持是/否判断、2 到 256 个选项的选择、以及 0 到 5 的评分,提示长度最高 256K token;System 2 被描述为未经修改的 Qwen3.8-27B,可接收图像输入并输出文本或逐步推理。59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1054161API
curl https://kongchang.com/api/v1/knowledge/claims/1054161MCP
get_claim(id=1054161)