智能体比普通问答应用更接近真实业务，也意味着风险从“回答不准确”扩展到“可能执行错误动作”。安全治理必须贯穿场景设计、开发测试、上线运行和持续优化。
第一层：明确能力和责任边界
为每个智能体定义可以读取的数据、可以调用的工具、允许执行的动作、必须人工确认的节点和禁止触碰的范围。不要给智能体超出任务需要的权限。
第二层：保护企业数据
对数据进行公开、内部、敏感和严格敏感等分级。按身份和岗位过滤可见字段，并对测试环境使用脱敏数据。涉及外部模型时，还要明确数据传输和留存策略。
第三层：校验输入与输出
不能把模型输出直接当作可信指令。工具调用前应校验参数、业务规则和数据范围；执行后应校验结果是否符合预期，并对异常情况停止任务。
第四层：关键动作由人把关
付款、合同生效、生产参数修改、客户承诺等高风险动作应保留人工复核。人工复核不是降低智能化程度，而是把自动化放在企业可承受的风险边界内。
第五层：评测、监控与审计
上线前用正常、边界和对抗样本测试；上线后监控任务完成率、错误率、人工接管率和工具调用异常。每次关键操作都应记录身份、输入、工具、参数、结果和复核人。
可靠的企业智能体不是“永远不犯错”，而是在错误发生前有预防、发生时能停止、发生后可定位并持续改进。