如何设计跨设备、端云协同 Agent?
题目
如何设计跨设备、端云协同 Agent?
参考答案
点击展开参考答案
- 先按隐私、实时性、算力、网络、电量和设备能力决定功能放置,不能简单回答“端上小模型、云上大模型”。
- 假设用户有手机和桌面端,要求离线可用、跨端继续任务且敏感数据尽量不出端。
- 端侧负责唤醒、实时交互、设备 Tool、敏感信息提取/脱敏、本地短期状态和断网降级;云侧负责大模型规划、长上下文、企业 RAG、跨系统 Tool、全局调度和重计算。
- 高风险设备动作在本地再次做权限/生物识别确认,云端计划不能直接绕过端侧策略。
- 设备注册能力清单,例如模型、传感器、Tool、网络和电量;任务契约包含
task_id/run_id/step_id/input_schema/output_schema/deadline/risk/version。 - 云端只委派设备声明且当前可用的能力;Artifact 通过内容哈希、版本、来源和 ACL 引用,避免大对象在设备间反复复制。
- 服务端保存权威 run 元数据和事件序列,端侧保存加密 checkpoint 与待同步 Outbox。