From f2c35398f3b529f75d0042190a60ececb0c789d6 Mon Sep 17 00:00:00 2001 From: tradecatlabs Date: Sat, 4 Jul 2026 23:56:43 +0800 Subject: [PATCH] docs: update AI proposition block (#55) Co-authored-by: tradecatlabs <288998340+tradecatlabs@users.noreply.github.com> --- README.md | 16 +++++++++++++--- 1 file changed, 13 insertions(+), 3 deletions(-) diff --git a/README.md b/README.md index 38638a6..935f673 100644 --- a/README.md +++ b/README.md @@ -48,7 +48,7 @@

[☯️ 道法术器](#dao-fa-shu-qi) -[🧠 三条核心命题](#ai-three-propositions) +[🧠 四条核心命题](#ai-three-propositions) [📌 字多不看](#root-tldr) [⚡ 1 分钟快速开始](#getting-started) [🚀 从零开始完整入门](docs/getting-started/learning-map.md) @@ -68,9 +68,9 @@
-🧠 三条核心命题（点击展开/收起） +🧠 四条核心命题（点击展开/收起） -## 🧠 三条核心命题 +## 🧠 四条核心命题 ### 一 @@ -94,6 +94,16 @@ 当模型能力继续提升，这些中间层会被模型原生能力吸收、压缩、替代，甚至失去独立存在的意义。凡是因模型能力不足而存在、且可被吞噬的工程补丁，都会被更强模型吞噬。 +### 四、隔离审查 + +> **AI 生成结果不是事实本身；长期假设 AI 输出可能是错误的、非最优的、可继续优化的。** + +成熟 AI 工程的重要治理原则，不是让同一个上下文自我确认，而是把生成、审查和验证拆开。NIST 强调独立审查可以降低偏见和利益冲突；OpenAI 与 Microsoft 都把外部测试、红队和独立评估作为发现盲点的重要机制；LLM-as-a-judge 研究也指出，模型评价自身输出时可能存在自偏好。 + +因此，长期使用 AI 时，应默认其输出只是一个待验证、待审查、待优化的候选解。重要产出必须新开隔离会话，明确告知审查 AI：上一轮结果不可信，不能沿用结论，必须重新阅读原始资料、业务代码、目标、约束和验证结果，用事实、测试和可追溯证据判断其是否成立。AI 输出默认只是候选结果，不是已验证事实；同一上下文不能自证正确，重要产出必须隔离审查。 + +AI 负责生成候选解，隔离上下文负责审查和优化候选解，事实与验证负责裁决候选解。 +