简短答案
不要只保存最终文件。至少应保存原始来源、获取日期与版本、AI使用的实际输入范围、模型与提示版本、原始输出、人工修改、关键核验以及最终批准者。记录强度应与后果相称:普通个人草稿可保留简短版本历史;合同、研究、财务、安全、公共决策和自动执行需要能重建“哪个证据经过什么系统和人员,变成了哪个结果”。
可追溯性不是为了收藏所有聊天
记录的目的,是在以后回答几个具体问题:这个结论从哪里来;AI看到了什么和没看到什么;谁修改和批准;当时使用哪个模型、规则和文件版本;发现错误后哪些结果受影响。把每次对话完整截图却无法连接到最终句子,并没有解决这些问题。
相反,过度记录会复制敏感资料、增加保存成本,也让真正证据埋在噪音里。应先按任务风险定义需要证明的事实,再保存足以重建这些事实的材料。
澳大利亚政府AI采用实施指引强调记录、责任、测试、监控和事件管理。这些要求共同指向一种操作原则:AI流程必须能被解释和复查,而不是只留下最终输出。Australian Government: Guidance for AI Adoption—Implementation Practices
建立一条“来源—生成—编辑—批准”链
最小链条包含四层。来源层记录文档、数据、网页、访谈或系统记录。生成层记录AI收到的选定输入、指令、模型和工具。编辑层记录AI原始输出与有意义的人工修改。批准层记录最终版本、用途、批准者和日期。
每层使用稳定标识连接,例如项目编号、文件哈希、文档版本ID或记录链接。最终报告中的关键主张应能回到确切来源位置,而不是只链接一份数百页PDF。若来源在网页上会变化,保存访问日期、标题和适当快照或归档位置。
链条也应显示空白:模型没有读取哪些附件,某页OCR失败,数据截至何时,哪项主张没有独立来源。缺失不是系统缺陷日志里无关紧要的信息,而是解释结果边界的一部分。
保存原始来源,而不是只保存AI摘要
AI摘要是派生物。若源网页更新、链接失效、摘要误读或引用被质疑,只有摘要就无法复核。保存合法可保存的原文件或受控引用,包括标题、作者或机构、发布日期、版本、访问日期、页码和链接。
对数据库和动态仪表板,记录查询、字段定义、过滤条件、时区和提取时间;对代码结果,保存提交版本、依赖和运行参数;对会议,保留与政策相称的录音时间戳、聊天和文件版本。来源的“版本”必须足以重现当时看到的内容。
版权、隐私或合同可能禁止复制完整材料。此时保留精确定位、访问权限和必要摘录,而不是绕过限制。可追溯性不授予新的复制权。
记录AI实际看见的输入范围
“使用了年度报告”不够。系统可能只解析正文,跳过图表和附件;检索系统可能只送入几个片段;上下文长度可能截断后半部分。记录文件清单、选中页码或片段、解析失败、检索结果和必要的系统指令。
对于敏感输入,不要在普通日志中复制全文。可以保存受控位置、数据分类、哈希和访问授权,让具备权限的人需要时重建。日志本身也要有访问和保留控制。
如果输入来自实时连接器,记录连接器版本、查询范围和返回对象ID。否则以后可能无法知道模型当时读到了哪个版本的客户记录。
模型名称不等于完整生成版本
可重现性至少受模型标识、提供商版本或快照、系统指令、用户提示、采样设置、工具定义、检索内容和安全配置影响。只写“由AI生成”几乎没有诊断价值,只写产品品牌也可能不足,因为后台模型会更新。
能锁定快照时保存确切标识;不能锁定时记录运行时间、可见产品版本和关键设置,并承认不能保证逐字复现。生成式系统即使配置相同,也可能有随机性,所以目标通常是重建条件和判断路径,不是承诺得到完全相同的句子。
提示模板也应版本化。一次小改动可能改变结构、拒答、引用和工具调用。把模板放进受控文件或配置,而不是散落在员工个人聊天历史。
保留原始输出与最终人工编辑
如果只保留最终文档,就无法判断错误来自模型还是人工修改;如果只保留模型输出,也无法证明最终发布内容。保存两个版本并显示差异。对高风险内容,记录谁接受、拒绝或重写关键建议以及原因。
不必追踪每个标点。重点是改变事实、数字、责任、结论、条件、语气承诺和行动状态的编辑。使用文档版本历史、代码提交或结构化差异,比在备注中写“已审阅”更有证据力。
对多轮AI改写,最好把每轮当作派生版本:输入版本、指令、输出版本。避免复制粘贴覆盖原文,导致来源链断裂。
把验证记录连接到具体主张
“事实已核查”过于笼统。记录哪些事实由谁用什么来源核验、日期是什么,以及未解决事项。关键数字可以保留计算、单位和对账;引用保留来源定位与支持的句子;法律或专业结论记录合格人员审核范围。
验证结论也会过期。一个当时有效的政策链接和市场数据,数月后可能不再支持当前行动。对时间敏感项目,给核验设置有效期或重新检查触发条件。
不要让同一个模型生成答案、生成核验说明并自动标记通过。它可以整理证据,但独立来源或不同控制必须支撑最终状态。
为最终版本建立明确身份
文件名“final-final-v3”不能可靠表示批准状态。正式成果应有稳定ID、版本号、状态、发布日期、所有者和批准人。草稿、审阅中、批准、撤回和过期应是明确状态,不能只靠文件夹位置推断。
一旦批准版本改变,应创建新版本并说明变化,而不是静默覆盖。已经收到旧版的人需要知道是否必须采取行动。对于网页和知识库,可显示最后审核日期和源版本。
最终版本还应链接到目录页或项目记录,让读者找到相关材料和适用范围,而不是只看到孤立文件。
内容来源凭证有价值,但不是“真实性按钮”
C2PA等标准提供内容来源与编辑历史的技术表达方式,帮助应用验证一个资产由谁签名、经过哪些声明的处理。它适合图像、视频和其他数字内容的来源链。C2PA Technical Specifications
但来源凭证证明的是某种来源和处理记录,并不自动证明内容真实、完整或公正。一个人可以签署错误陈述;没有凭证也不证明内容虚假;元数据还可能在某些平台丢失。应把技术凭证与来源核查、专业判断和组织审批结合。
C2PA的说明材料也强调内容凭证帮助建立来源上下文,而不是成为对真实性的单一裁判。C2PA Explainer
隐私与可追溯性需要共同设计
为了审计保存所有输入,可能复制个人信息、法律特权材料或秘密。为了隐私删除一切,又可能无法调查事故。解决方法是数据分层:普通审计日志保存标识、类别、时间、操作和责任人;敏感原文留在受控存储,以权限链接关联;设置不同保留期和法律冻结机制。
日志应防止未授权修改,并记录谁查看或导出。共享可追溯记录时,遮盖不必要的个人资料。一个用于问责的系统不应成为新的大规模泄露源。
删除也需要传播。源文件依法删除或同意撤回时,评估派生摘要、向量索引、缓存、导出和下游文档是否需要删除或更正,并保留允许保留的最小删除证明。
按风险设计三种记录级别
轻量级适用于个人头脑风暴、低风险内部草稿:保留源链接、提示或任务说明、最终文档版本。标准级适用于客户内容、项目分析和可发布材料:再加输入清单、模型时间与配置、原始输出、差异、核验和批准。
加强级适用于法律、财务、医疗、安全、公共决策和AI代理行动:使用不可随意修改的事件日志、精确版本、权限记录、双人或专业批准、决策理由、监控结果和事件关联。必要时加入电子签名、哈希或正式记录系统。
风险变化时升级。一个个人草稿后来进入公开报告,不能因为最初低风险就沿用轻量记录;应补齐来源、验证和批准。
建立影响分析能力
可追溯性的真正回报常在错误发生后出现。若发现某来源数据错误、某模型版本有问题或某提示漏掉例外,应能搜索哪些文章、决定、邮件和行动受影响。没有连接关系,团队只能全面重查或任由错误留存。
记录来源ID、模型/提示版本和输出用途,使反向查询成为可能:某份文件影响了哪些结果;某个结果用了哪些来源;某次批准之后执行了哪些动作。优先为高风险流程建立这些关系。
定期做一次演练:选择已发布结论,要求另一位人员在合理时间内找到来源、AI版本、修改和批准。如果无法完成,记录系统只是在存档,不具备可用追溯性。
我的判断:保存决策证据,不是保存技术仪式
截图AI聊天、加一句“人工审核”或写上工具名称,看起来透明,却不一定帮助判断结果。好的记录围绕决策:关键主张来自哪里,哪些变化由谁选择,最后为何被接受,何时需要重审。
记录应让未来复核者少依赖当事人的记忆。若一个流程只有原操作者才能解释,就还没有形成组织能力。
记录检查表
- 原始来源是否有标题、版本、日期、精确位置和访问方式?
- 是否知道AI实际读取的文件、页面、片段,以及未读取部分?
- 是否记录模型或产品版本、时间、提示模板、工具和关键设置?
- 原始AI输出与最终编辑是否都保留,并能看到重要差异?
- 关键事实、数字、引用和专业判断是否连接到验证证据?
- 最终版本是否有稳定ID、状态、所有者、批准者和发布日期?
- 日志是否保护敏感数据,并有访问、保留、删除与防篡改控制?
- 发现来源或模型问题时,能否反向找到所有受影响结果?
结论
保存AI参与工作的记录,不是把聊天无限堆积,而是建立来源、生成条件、人工编辑、验证和批准的可用链条。根据后果选择记录强度,保留缺失与不确定性,并让最终版本能回到证据。这样在有人质疑、来源更新或错误发生时,团队可以重建判断、定位影响并负责任地更正。
相关问题
继续阅读本系列: 《AI可以相信到什么程度?》全部文章
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。