外观
如何设计一个混合 AI 架构,在离线时降级、在线时增强?
标准回答
混合架构让本地完成基础任务,云端提供增强,并明确切换条件、数据范围与失败回退。
通俗例子
本地先识别图片文字,用户请求深入分析且同意上传时再使用云端;云端失败也不应丢掉本地已经得到的结果。
深入解释
**怎么划分两端职责:**本地承担适合低延迟与离线的任务,云端承担允许联网且较重的任务。两端共享明确的输入输出与结果状态,界面不必各写一套业务。
**断网切换要守住什么:**本地与云端结果可能先后返回,要防旧结果覆盖新请求;控制动作还要防两端重复执行。降级意味着能力受限,应让用户看得出来。
内容来源
- Android · AI Agent 知识手册 · 原条目
22.2.3