监管类项目谈 AI，最容易走偏的方向是一上来就要「智能审批」「自动处罚」。在四个巡查类项目里，我们把边界收得很窄：AI 只做两件事——识别与预筛，所有对外的结论仍然由人工确认。这样做看起来保守，但它是我们敢把 AI 放进生产环境的唯一原因。
AI 在巡查链路里承担什么
巡查类项目的数据大体是照片、台账与巡查记录。AI 承担的第一件事是识别：照片里的隐患要素（堆放、破损、遮挡）由模型先做一遍标注，把「可能是问题」的记录挑出来。第二件事是预筛：把明显合规的记录排到后面，让巡查员优先处理可疑项。两件事的共同点是——它们只产生「建议」，不产生「结论」。
为什么不让 AI 直接下结论
监管场景的输出会进入执法与考核流程，每一条结论都要能回答「依据是什么」。模型的识别结果可以给出置信度，但给不出法规依据；一旦错误结论进入闭环，纠错的成本远高于人工确认的成本。所以我们把人工确认做成了流程里的强制节点：AI 标注之后，巡查员逐条确认或驳回，确认结果回写训练集。
误报率收敛的两个条件
前期误报率高并不可怕，可怕的是它不收敛。收敛需要两个条件同时成立：其一，人工确认的结果必须高质量回流——巡查员确认或驳回时不能随手点，驳回理由要选填，这些反馈直接决定下一轮模型的质量；其二，场景边界要收窄，一个只会看一种隐患的模型，收敛速度远快于一个什么都想看的模型。四个项目里我们反复强调这两点，团队从一开始就把反馈流程设计进去了。
代价与收益
代价是明确的：巡查员的工作量没有减少，只是从「找问题」变成了「确认问题」，前期甚至略有增加；模型的识别准确率需要持续喂养，前两个月的误报率并不好看。收益则需要把时间轴拉长来看——识别与预筛把有效问题的发现密度提了上来，误报随着反馈循环收敛，巡查员对系统的信任是在「AI 说的大体靠谱」被反复验证之后建立起来的。
给立项团队的建议
如果把 AI 写进监管平台的立项方案，建议把定位写成「辅助识别与预筛」，把人工确认写成流程节点而不是可选项，并把前期的误报率波动写进预期管理。这样立项不会因为「AI 没有想象中智能」而被动，收益也会在正确的位置上兑现。
延伸：识别准确率的度量口径
聊准确率之前先统一口径：笼统地报一个总准确率没有意义。隐患类型之间样本量差异很大，高发类别拉高了平均值，低发类别的糟糕表现会被掩盖。我们按隐患类别分层统计准确率，并且区分「该报未报」与「报了误报」两个方向——前者是漏检，后者是误报，两类问题的优化路径完全不同。给管理层看的数据，建议按类别拆开、按月滚动展示，收敛趋势一目了然。