mirror of
https://github.com/tradecatlabs/vibe-coding-cn.git
synced 2026-07-27 18:57:50 +00:00
docs: update AI proposition block (#55)
Co-authored-by: tradecatlabs <288998340+tradecatlabs@users.noreply.github.com>
This commit is contained in:
@@ -48,7 +48,7 @@
|
||||
</p>
|
||||
|
||||
[☯️ 道法术器](#dao-fa-shu-qi)
|
||||
[🧠 三条核心命题](#ai-three-propositions)
|
||||
[🧠 四条核心命题](#ai-three-propositions)
|
||||
[📌 字多不看](#root-tldr)
|
||||
[⚡ 1 分钟快速开始](#getting-started)
|
||||
[🚀 从零开始完整入门](docs/getting-started/learning-map.md)
|
||||
@@ -68,9 +68,9 @@
|
||||
<a id="ai-three-propositions"></a>
|
||||
|
||||
<details open>
|
||||
<summary><strong>🧠 三条核心命题</strong>(点击展开/收起)</summary>
|
||||
<summary><strong>🧠 四条核心命题</strong>(点击展开/收起)</summary>
|
||||
|
||||
## 🧠 三条核心命题
|
||||
## 🧠 四条核心命题
|
||||
|
||||
### 一
|
||||
|
||||
@@ -94,6 +94,16 @@
|
||||
|
||||
当模型能力继续提升,这些中间层会被模型原生能力吸收、压缩、替代,甚至失去独立存在的意义。凡是因模型能力不足而存在、且可被吞噬的工程补丁,都会被更强模型吞噬。
|
||||
|
||||
### 四、隔离审查
|
||||
|
||||
> **AI 生成结果不是事实本身;长期假设 AI 输出可能是错误的、非最优的、可继续优化的。**
|
||||
|
||||
成熟 AI 工程的重要治理原则,不是让同一个上下文自我确认,而是把生成、审查和验证拆开。NIST 强调独立审查可以降低偏见和利益冲突;OpenAI 与 Microsoft 都把外部测试、红队和独立评估作为发现盲点的重要机制;LLM-as-a-judge 研究也指出,模型评价自身输出时可能存在自偏好。
|
||||
|
||||
因此,长期使用 AI 时,应默认其输出只是一个待验证、待审查、待优化的候选解。重要产出必须新开隔离会话,明确告知审查 AI:上一轮结果不可信,不能沿用结论,必须重新阅读原始资料、业务代码、目标、约束和验证结果,用事实、测试和可追溯证据判断其是否成立。AI 输出默认只是候选结果,不是已验证事实;同一上下文不能自证正确,重要产出必须隔离审查。
|
||||
|
||||
AI 负责生成候选解,隔离上下文负责审查和优化候选解,事实与验证负责裁决候选解。
|
||||
|
||||
</details>
|
||||
|
||||
<a id="root-tldr"></a>
|
||||
|
||||
Reference in New Issue
Block a user