Skip to content
阅读进度

Agent 的安全评估有哪些标准数据集和基准? ​

返回 权限与安全 目录

标准回答 ​

安全评估集提供可重复的风险场景,但选择时要看它测的是文本回答还是实际工具动作。

通俗例子 ​

AgentDojo 用工具任务与提示注入场景评估 Agent;企业还需加入自己的订单权限、隐私和审批案例,公开分数不能覆盖全部风险。

参考资料 ​

内容来源 ​

用完整回答理解机制,用真实证据解释项目。