安全合规
发布:2026-08-26 阅读 13

企业级问答系统的演示总是很惊艳,但演示与生产之间隔着三道门禁:数据可见范围、结论来源校验、高风险操作人工审批。我们在项目里坚持一个判断——这三项缺任何一项,系统都不应该放进生产环境。

第一道门禁:数据可见范围

问答系统的检索范围必须继承既有系统的权限体系,而不是另起一套。用户问什么不重要,重要的是检索动作发生之前,系统已经按部门与角色过滤了可见资料。这一道门禁做在检索层而不是提示词层——提示词约束可以被绕过,权限过滤不会。

第二道门禁:结论来源校验

每一条回答里的关键事实,都必须能回溯到一次真实的检索命中。结论生成之后逐项校验:数字有没有来源、表述有没有超出检索内容。无源数据直接拦截,整条回答降级为「未找到依据」,而不是把可能的幻觉放出去。校验逻辑是程序化的,不依赖模型自律。

第三道门禁:高风险操作人工审批

问答系统对接的下游动作分级管理:查询类自动执行;写入、外发、配置变更类必须人工审批后执行。审批节点不是摆设——审批人可以看到系统将执行的动作全文与引用依据,拒绝的理由会进入反馈记录。

门禁的验收标准

三道门禁不能只写在方案里,要变成可验收的测试用例。我们的验收清单包括:用低权限账号问高权限数据,系统必须答「无权限」而不是「答非所问」;在回答里人为注入一个无源数字,校验层必须拦截;触发一次写入类操作,审批流程必须先于执行发生。三条用例全过,才进入生产。

门禁的哲学

三道门禁的共同点是「用系统规则兜底,不用提示词许愿」。它们会让系统显得不够「丝滑」,但企业级系统的上线标准从来不是丝滑,而是每一次错误都可追溯、每一次越权都不可能。演示通过只是起点,门禁齐全才敢放进生产。

延伸:审批超时的处理

人工审批的短板是审批人不在岗。要有代理审批机制(指定同角色代理人),要有超时策略(超过时限自动提醒、二次超时按预设规则降级处理或自动撤回),审批记录里要留时间戳。高危操作的审批宁可慢,但不能断——断掉的审批链会让业务部门绕着系统走,门禁就名存实亡。