外观
为什么在移动端优先使用设备端 AI(On-device AI)?
标准回答
端侧 AI 把部分计算留在设备上,可降低网络依赖与数据上传,但受到本地资源限制。
通俗例子
离线识别简单文本时,图片不必先传到服务器;复杂任务若本地模型做不好,还要给用户清楚的能力边界。
深入解释
**端侧执行意味着什么:**模型计算发生在设备本地,请求不必每次往返云端,可以减少网络等待,也便于在适合场景中减少原始数据上传。
**它仍有哪些成本:**设备要承担模型加载、CPU 或加速器计算、内存和功耗。隐私也不是自动解决,日志、存储与其他上传流程仍需按产品设计处理。
内容来源
- Android · AI Agent 知识手册 · 原条目
22.2.1