待验证50% 置信权衡取舍精确时间

本地化RAG要求嵌入模型和生成模型都在设备端运行，对内存带宽和算力要求较高，740M参数规模是针对这一约束的权衡选择

1

来源数

50%

置信度

长期有效

时效性

2026/10/8

首次发现

来源

EmbeddingGemma 2发布：740M参数的开源多模态端侧嵌入模型

涉及实体

EmbeddingGemma 2model RAGconcept

相关事实

已验证运行本地LLM时显存容量往往比计算速度更为关键，显存容量直接决定了能运行哪些模型75% 相似已验证为本地大模型推理选择硬件时应优先考虑内存容量，其次是架构和内存带宽75% 相似待验证浏览器内直接运行轻量模型对设备算力要求较高，通常需要 8GB 以上内存且模型参数量受限；本地推理服务方式灵活性更强但技术门槛更高74% 相似待验证305B参数模型的权重需全部加载到显存中，本地部署至少需要多张高端GPU组成的集群才能推理71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/988495

API

curl https://kongchang.com/api/v1/knowledge/claims/988495

MCP

get_claim(id=988495)