diff --git a/README.md b/README.md index 935f673..e1d47b0 100644 --- a/README.md +++ b/README.md @@ -96,11 +96,11 @@ ### 四、隔离审查 -> **AI 生成结果不是事实本身;长期假设 AI 输出可能是错误的、非最优的、可继续优化的。** +> **AI 生成结果只是候选解,不是已验证事实;长期应默认其可能错误、非最优,并必须保留审查、验证与优化空间。** 成熟 AI 工程的重要治理原则,不是让同一个上下文自我确认,而是把生成、审查和验证拆开。NIST 强调独立审查可以降低偏见和利益冲突;OpenAI 与 Microsoft 都把外部测试、红队和独立评估作为发现盲点的重要机制;LLM-as-a-judge 研究也指出,模型评价自身输出时可能存在自偏好。 -因此,长期使用 AI 时,应默认其输出只是一个待验证、待审查、待优化的候选解。重要产出必须新开隔离会话,明确告知审查 AI:上一轮结果不可信,不能沿用结论,必须重新阅读原始资料、业务代码、目标、约束和验证结果,用事实、测试和可追溯证据判断其是否成立。AI 输出默认只是候选结果,不是已验证事实;同一上下文不能自证正确,重要产出必须隔离审查。 +因此,长期使用 AI 时,重要产出必须新开隔离会话,明确告知审查 AI:上一轮结果不可信,不能沿用结论,必须重新阅读原始资料、业务代码、目标、约束和验证结果,用事实、测试和可追溯证据判断其是否成立。 AI 负责生成候选解,隔离上下文负责审查和优化候选解,事实与验证负责裁决候选解。