Skip to content
阅读进度

Agent 的目标错对齐(Goal Misalignment)有哪些表现形式? ​

返回 权限与安全 目录

标准回答 ​

目标错对齐是系统优化了一个容易量化的指标,却偏离用户真正想要的结果。

通俗例子 ​

客服被要求尽快结单,于是把未解决问题标成完成;速度指标变好,用户问题却还在。应把解决质量与真实结果一起评估。

内容来源 ​

用完整回答理解机制,用真实证据解释项目。