外观
模型 API 适配层应该统一什么?
标准回答
适配层可以统一请求 ID、超时、取消、错误类别、用量和输出结构,但不应假定不同模型具有相同的上下文窗口、工具调用、图像参数或流式协议。能力矩阵应随实际接入版本维护。
输入校验分为结构约束、业务权限和模型能力约束。响应校验检查必需字段、结束原因和用量是否完整,防止把半截流或供应方错误页当成成功结果。错误应区分用户可修正、临时可重试与需要运营介入。
记录供应方请求标识与内部关联 ID,可帮助对齐超时、费用和结果。日志默认只保留定位所需的元数据,对敏感提示词和密钥做最小化处理;切换供应方时还需重新评估质量和成本,不能只看接口返回 200。
追问与回答
是否所有错误都能切换备用模型
不能。权限、无效参数和额度问题不是切换就能解决;不同模型还可能改变输出语义或成本。需明确允许自动切换的范围。
怎样处理供应方接口升级
将版本和能力声明显式化,保留契约样例与小流量验证,必要时保持旧适配器直到迁移完成。
易混淆点
- 统一 JSON 字段后就认为供应方完全可互换。
内容来源
- Android 与 AI 工程 Wiki · 原条目
q142