端侧AI Agent

StareBrain将端侧AI Agent所需的上下文拆分为两类：动作上下文（描述用户请求的动作、参数及可完成该动作的App）和设备上下文（手机已知道的相关信息，如即将到来的日历事件、已保存位置、最近搜索记录）。

端侧Agent受本地算力与内存限制，模型规模、上下文长度和推理速度均受约束，因此不能简单照搬云端“大模型读全部上下文再规划”的范式，而要把任务拆解为确定性较强的小步骤。

当前主流 AI Agent 产品大多把推理和执行放在云端，通过手机或网页发出指令，请求被发送到远端服务器完成推理后再推回终端。