概念边端大模型 / 端侧LLM
边端LLM
部署在终端设备而非云端的大语言模型,受显存、算力与功耗限制,通常参数规模较小、上下文窗口有限且无法访问外部网络
时间轴 (近 90 天)
10月19日
SRCoT(Self-Reflective Chain-of-Thought)是一种通过'检索—反思—修正'闭环流程使边端LLM生成过程可追溯、可审查的架构。
待验证50%
10月19日
边端LLM受限于显存、算力与功耗,通常参数规模较小、上下文窗口有限,且往往无法访问外部网络。
待验证50%
部署在终端设备而非云端的大语言模型,受显存、算力与功耗限制,通常参数规模较小、上下文窗口有限且无法访问外部网络
SRCoT(Self-Reflective Chain-of-Thought)是一种通过'检索—反思—修正'闭环流程使边端LLM生成过程可追溯、可审查的架构。
边端LLM受限于显存、算力与功耗,通常参数规模较小、上下文窗口有限,且往往无法访问外部网络。