当AI提交监管申报，谁来证明内容真实？

《AI进入工作之后》· 第三季“当AI开始代表组织”· 第八篇

一家企业需要在月底前向监管机构提交报告。过去，多个部门提供数据，合规人员逐项核对，负责人阅读最终文本并作出声明。现在AI可以从财务系统、客户记录、事故日志和以前申报中提取资料，自动完成表格、解释重大变化，甚至登录门户提交。

流程从两周缩短到两小时。最后只剩一个按钮：“确认内容真实、准确并提交。”负责人面对的是一份几百页的完整文件，却不知道哪些数字直接来自系统、哪些经过AI转换、哪些解释由模型生成，也没有时间重新完成整套核对。

他点击确认时，证明了什么？是证明AI运行成功，证明文件看起来合理，还是以自己的职务身份证明每一项重大陈述有充分依据？

监管申报可以自动准备，技术上也可能自动传送；但证明内容真实是一项独立职能。它不能因为前面的步骤变快，就被压缩成最后一秒的形式点击。

一份申报由四层证据组成

监管文件不只是文本。它把机构内部事实转化为可以由外部权威依赖的声明。至少要区分四层：

原始记录
→ 数据转换和分类
→ 申报中的事实与解释
→ 有权者的声明或认证

原始记录包括交易、事件、账户、合同和操作日志。它们本身也可能不完整或错误。

转换和分类决定哪些记录属于哪个期间、类别和法定定义，怎样处理重复、缺失和例外。许多重大错误发生在这一层，而不是生成文字时。

申报陈述把数据变成对外事实，例如“本期没有发生重大事件”或“变化主要由某因素导致”。这些句子混合计算与判断。

声明或认证则由某个具有法定、专业或组织权限的人作出，表示申报满足相应标准。

AI可以参与前三层，却不能因此自动拥有第四层的身份和责任。模型没有职务权限，也不会因错误受到内部纪律、监管措施或专业后果。组织必须明确谁在证明、证明的范围是什么，以及他依据哪些检查能够合理地证明。

自动提取不等于证据自动成立

AI从业务系统读取一个数字时，容易产生“来源已经验证”的错觉。实际上还要问：这个系统是不是权威记录？数据是否覆盖完整期间？单位、币种和时区是否一致？记录是否后来被更正？同一事件是否在多个系统重复出现？

生成式AI还可能把非结构化材料转为类别，例如从投诉文本判断事故类型，或从会议记录判断是否需要披露。此时输出不是简单复制，而是一次分类决定。报告必须显示使用的规则、置信边界和人工复核，而不能把分类结果伪装成原始事实。

澳大利亚税务局关于企业记录保存的说明强调，企业需要保留能够解释交易和税务事项的记录，并满足可访问、可理解等要求。澳大利亚税务局：《Record keeping for business》 具体申报义务因制度而异，但共同原则是：最终数字必须能够追溯到支持它的记录。AI生成一条合理解释，不能替代证据链。

负责人不应审核整份文件，而应审核重大断言和变化

要求负责人重新计算几百页申报，会使自动化失去意义；只让他看摘要并点击，也无法形成有效认证。更好的设计把文件拆成可核查的“断言包”。

每个重大断言至少显示：

• 申报要求或定义；
• 对应原始系统和截止时间；
• 数据转换、排除和估计方法；
• 与上期或预期的变化；
• AI参与的具体步骤；
• 已完成的自动和人工检查；
• 未解决差异及其负责人。

负责人重点审查变化、例外、重要估计和管理判断，而稳定的标准字段可以由自动对账与抽样支持。这是一种基于风险的认证，而不是把责任交给AI。

界面还应让负责人拒绝整项或部分申报，并把问题退回具体数据所有者。若系统为了赶截止时间只提供“全部确认”，它把合规压力转化成橡皮图章。

数据所有者、申报编制者和证明者不能混成一个模糊角色

一个可靠流程至少有三类所有权。

数据所有者保证业务系统中的记录有定义、完整并得到更正。财务、运营、人力或安全部门各自承担其领域责任。

申报所有者理解监管要求，把内部资料映射到申报字段，管理截止时间和解释。

证明者拥有正式权限，基于规定检查对外作出声明。

同一个人可以兼任其中部分角色，但系统必须保留区别。否则错误发生时，每个人都可能说自己只负责工具、数据或最后提交，没有人负责从内部事实到外部声明的完整转换。

澳大利亚政府关于负责任使用AI的政策要求适用的政府机构指定AI负责官员、维护用例清单并开展影响与风险管理。澳大利亚政府：《Policy for the responsible use of AI in government》 商业机构的具体义务不同，但这种明确角色和用例责任的做法同样适用于AI辅助申报：工具所有者不能代替申报责任人。

自动检查应该寻找矛盾，而不只是格式错误

AI很适合做申报前的系统检查，但检查对象应超过空字段和数字格式：

• 总额是否能与明细和总账对上；
• 不同报表对同一事件的分类是否一致；
• 本期“零事件”是否与事故日志或投诉记录冲突；
• 解释文字是否引用不存在或过期政策；
• 数字大幅变化是否有记录支持；
• 估计是否使用批准方法并清楚标记。

还可以设置反向测试：从申报中的一项重大数字随机抽取样本，追到原始记录；从原始系统抽取事件，检查是否进入申报。前者测试准确，后者测试完整。只从报告向后看，容易错过从未被纳入报告的事项。

NIST AI风险管理框架强调对AI输出进行测量、监测并记录局限，治理角色应能够处理风险和反馈。NIST AI Resource Center：《AI RMF Core》 在监管申报中，验证不能只评测语言是否正确，还要评测从源记录到法定字段的覆盖、分类和可追溯性。

提交门户的权限必须与编制权限分开

能够准备申报，不代表可以提交。提交往往使用机构凭证、触发法定期限并形成正式外部记录。AI若同时编制、解决警告并提交，就可能在没有独立检查的情况下把自己的错误固化为机构声明。

较安全的设计是：AI生成待提交包；策略层验证必要批准、文件哈希、版本和时间；具有相应权限的人或独立提交服务执行最终传送。提交后保存监管回执、最终文件和准确版本，防止后来编辑覆盖当时内容。

英国国家网络安全中心的安全部署指南强调访问控制、日志、监控和事件管理。英国国家网络安全中心：《Secure deployment》 监管门户凭证尤其不应长期暴露给可以读取外部文本或任意生成工具调用的模型。

截止时间不是降低证明标准的理由

自动化常以避免迟报为价值，但时间压力也会使人更愿意相信完整、流畅的产物。系统应在截止前持续显示未解决项目，而不是最后才生成一份看似完成的文件。

如果资料不足，组织需要预先决定合法选项：是否可以标记估计、申请延期、提交后修正，或必须暂停。不能让AI为了满足必填字段而补出一个数字或把未知写成“无”。

评估AI申报流程时，应同时记录准时率、修正次数、重大差异、未解决例外、复核时间和监管反馈。只看“节省了多少小时”，会奖励快速提交而不奖励可证明的真实。

发现错误后，需要判断哪些声明曾依赖同一证据

如果提交后发现一个源系统漏记，不能只修正眼前数字。组织需要用数据血缘找出所有使用同一记录、转换和分类规则的申报，以及哪些期间和监管机构受到影响。

纠正流程包括停止继续使用错误来源、保留原申报、由有权人员决定通知和更正、更新相关账户或记录，并验证监管方收到正确版本。是否需要正式更正及其方式取决于具体制度，不能由通用AI自行决定。

事故也要反馈到认证范围。若证明者过去只看汇总，而错误来自分类规则，未来审查就应增加分类样本；若数据所有权不清，应先修复记录责任，而不是训练模型更会解释差异。

结论：AI可以准备证明材料，不能成为无人承担的证明者

监管申报的本质，是组织把内部事实转化为外部可以追究的声明。AI能够提高收集、对账、分类、解释和格式化效率，但它不会因完成这些劳动而取得作出正式认证的资格。

最终原则是：

每项重大申报陈述都应能追溯到原始记录、转换规则和已完成检查；最终证明必须由具有相应权限、能够看见重大变化与未解决问题并有权拒绝提交的人作出。

真正成熟的自动申报，不是让负责人更快点击，而是让他清楚知道自己正在证明哪些事实、依赖哪些证据、哪些部分仍然不确定。AI可以缩短文件生产，不能缩短机构对真实负责的距离。

主要资料

• 澳大利亚税务局：Record keeping for business
• 澳大利亚政府：Policy for the responsible use of AI in government
• NIST AI Resource Center：AI RMF Core
• 英国国家网络安全中心：Secure deployment

继续阅读：浏览《AI进入工作之后》系列文章