feat(wiki): ingest misc sources batch (Daily notes/Others/Skills/Vibe Coding/微信公众号/跨境电商)
This commit is contained in:
27
wiki/concepts/AI拟人化谬误.md
Normal file
27
wiki/concepts/AI拟人化谬误.md
Normal file
@@ -0,0 +1,27 @@
|
||||
---
|
||||
title: "AI拟人化谬误"
|
||||
type: concept
|
||||
tags: []
|
||||
---
|
||||
|
||||
## Definition
|
||||
将 LLM 拟人化(赋予名字、情感、恐惧、动机)是一种设计谬误。LLM 没有生物体的局限性——不会死亡、饥饿或害怕;它们在推理时只存在几秒钟来生成响应,缺乏真正的同理心或情感。
|
||||
|
||||
## Why It's Wrong
|
||||
- LLM 天生的不可靠性(幻觉、逻辑谬误、上下文漂移)与人类不同
|
||||
- 对 LLM 的"威胁"或"激励"只是利用训练数据中高风险→高质量输出的相关性
|
||||
- 拟人化会掩盖 LLM 真正的问题:将其视为可靠组件而非需要工程保障的系统
|
||||
|
||||
## The Correct Approach
|
||||
- [[Alex Ewerlöf]] 主张:将 LLM 视为分布式系统中不可靠的组件
|
||||
- 构建系统时:约束(Constrained)、验证(Verified)、修剪(Pruned)、挑战(Challenged)
|
||||
- 不需要"关心"的 AI,需要的是经过工程保障的 AI
|
||||
|
||||
## Related Concepts
|
||||
- [[泰勒主义软件工厂]]
|
||||
- [[LLM不可靠性]]
|
||||
- [[多Agent可靠性模式]]
|
||||
|
||||
## Sources
|
||||
- [[The-Picture-They-Paint-of-You.md]]
|
||||
- [[Multi-Agent-System-Reliability.md]]
|
||||
24
wiki/concepts/YouTubeRSS.md
Normal file
24
wiki/concepts/YouTubeRSS.md
Normal file
@@ -0,0 +1,24 @@
|
||||
---
|
||||
title: "YouTube RSS"
|
||||
type: concept
|
||||
tags: []
|
||||
---
|
||||
|
||||
## Definition
|
||||
通过 YouTube 频道的 channel_id 拼接的 Atom/RSS 订阅格式,允许用户通过 RSS 阅读器订阅频道更新。YouTube 已移除官方 RSS 订阅按钮,需通过"查看页面源码"获取 channel_id。
|
||||
|
||||
## How to Get
|
||||
1. 访问 YouTube 频道页面(如 https://www.youtube.com/@CHANNEL_NAME)
|
||||
2. 右键 → "查看页面源码"(View Page Source)
|
||||
3. 搜索 "channel_id="
|
||||
4. 拼接 RSS URL:https://www.youtube.com/feeds/videos.xml?channel_id=<CHANNEL_ID>
|
||||
|
||||
## Why It Matters
|
||||
- YouTube 移除 RSS 按钮以迫使用户访问网站(商业动机)
|
||||
- RSS 是获取频道更新的无平台锁定方式
|
||||
|
||||
## Related Tools
|
||||
- 任意 RSS 阅读器(如 Feedly、Inoreader 等)
|
||||
|
||||
## Sources
|
||||
- [[YouTube-RSS-Feed.md]]
|
||||
31
wiki/concepts/共识投票.md
Normal file
31
wiki/concepts/共识投票.md
Normal file
@@ -0,0 +1,31 @@
|
||||
---
|
||||
title: "共识投票"
|
||||
type: concept
|
||||
tags: []
|
||||
---
|
||||
|
||||
## Definition
|
||||
多智能体系统中 N 个独立 LLM 对同一任务生成答案,取出现最频繁的结果作为最终输出的模式。核心机制是利用 LLM 随机性,让不同运行的噪声相互抵消。
|
||||
|
||||
## Mathematical Basis
|
||||
- 假设单模型幻觉率 = 20%(P_hallucination = 0.2)
|
||||
- N 个模型同时产生相同幻觉的概率 = P_hallucination^N
|
||||
- N = 3 时:0.2³ = 0.008 = 0.8%
|
||||
- 该公式与 SRE 中的 composite SLO 原理相同
|
||||
|
||||
## Implementation
|
||||
1. Spawn N LLMs(N 需要在成本和可靠性之间找到平衡)
|
||||
2. Fan out:给所有模型分配完全相同的任务
|
||||
3. Fan in:选取出现最频繁的答案
|
||||
|
||||
## Diversity Requirement
|
||||
- 各 Agent 最好使用不同模型(同质化噪声会放大而非抵消)
|
||||
- 确保参与者之间无反馈回路(防止群体思维和从众效应)
|
||||
- 实验应像盲测一样运行
|
||||
|
||||
## Best For
|
||||
- 事实核查
|
||||
- 分类任务(如"这是垃圾邮件吗?")
|
||||
|
||||
## Sources
|
||||
- [[Multi-Agent-System-Reliability.md]]
|
||||
20
wiki/concepts/固定点语义.md
Normal file
20
wiki/concepts/固定点语义.md
Normal file
@@ -0,0 +1,20 @@
|
||||
---
|
||||
title: "固定点语义"
|
||||
type: concept
|
||||
tags: []
|
||||
---
|
||||
|
||||
## Definition
|
||||
在递归自我优化生成系统中,稳定的生成能力对应于元生成算子 Φ 的不动点 G*,满足 Φ(G*) = G*。该生成器在自身的"生成→优化→更新"循环下保持不变。
|
||||
|
||||
## Core Properties
|
||||
- 不动点定义:G* ∈ G,满足 Φ(G*) = G*
|
||||
- 收敛条件:Φ 满足连续性或收缩性条件时,可通过迭代获得:G* = lim(n→∞) Φⁿ(G₀)
|
||||
- 自洽性:不动点的输出已编码其自身改进所需的标准
|
||||
|
||||
## Related Concepts
|
||||
- [[自举Meta生成]]:通过不动点实现递归自我优化的过程
|
||||
- [[生成器空间]]:Φ 作用的空间
|
||||
|
||||
## Sources
|
||||
- [[A-Formalization-of-Recursive-Self-Optimizing-Generative-Systems.md]]
|
||||
42
wiki/concepts/多Agent可靠性模式.md
Normal file
42
wiki/concepts/多Agent可靠性模式.md
Normal file
@@ -0,0 +1,42 @@
|
||||
---
|
||||
title: "多Agent可靠性模式"
|
||||
type: concept
|
||||
tags: []
|
||||
---
|
||||
|
||||
## Definition
|
||||
多智能体系统中用于克服 LLM 不可靠性(幻觉、逻辑谬误、上下文漂移)的四大架构模式:层级结构、共识、 adversarial debate 和淘汰制。
|
||||
|
||||
## Four Patterns
|
||||
|
||||
### 1. 层级结构(Hierarchy)
|
||||
- **角色**:Planner(规划器)+ Worker(工作者)+ Validator(验证器)
|
||||
- **依赖图强制协作**:Worker 必须等待 Planner 分配任务,且无法作弊(Validator 会发现)
|
||||
- **适用场景**:需要将上下文分开的复杂工作流程
|
||||
|
||||
### 2. 共识(Consensus / Voting)
|
||||
- **机制**:N 个 LLM 独立生成同一任务答案,取多数票
|
||||
- **数学基础**:3 个模型同时产生相同幻觉的概率 = 0.2³ = 0.8%(假设单模型幻觉率 20%)
|
||||
- **适用场景**:事实核查、分类任务
|
||||
|
||||
### 3. 对抗辩论(Adversarial Debate)
|
||||
- **角色**:Generator → Critic(反对) → Judge(裁决)
|
||||
- **机制**:Truth survives the fight,真理越辩越明
|
||||
- **适用场景**:安全分析、代码审查、高风险内容审核
|
||||
|
||||
### 4. 淘汰制(Knock-out)
|
||||
- **类比**:SRE 中服务器是"cattle"(可替换)而非"pets"(独一无二)
|
||||
- **机制**:N 个 Agent 执行任务,最差者被淘汰;可选择用获胜者特征替换已淘汰者
|
||||
- **适用场景**:迭代式 Agent 工程、开发调试
|
||||
|
||||
## Core Insight
|
||||
> "Stop treating LLMs like magic chatbots. Start treating them like unreliable components in a distributed system."
|
||||
|
||||
## Related Concepts
|
||||
- [[LLM不可靠性]]
|
||||
- [[验证器模式]]
|
||||
- [[共识投票]]
|
||||
- [[AI拟人化谬误]]
|
||||
|
||||
## Sources
|
||||
- [[Multi-Agent-System-Reliability.md]]
|
||||
30
wiki/concepts/泰勒主义软件工厂.md
Normal file
30
wiki/concepts/泰勒主义软件工厂.md
Normal file
@@ -0,0 +1,30 @@
|
||||
---
|
||||
title: "泰勒主义软件工厂"
|
||||
type: concept
|
||||
tags: []
|
||||
---
|
||||
|
||||
## Definition
|
||||
将开发者定位为高层控制者、周围是大量无面孔 Agent 的软件工程架构思维。源自泰勒科学管理思想——将人视为可替换的生产单元,通过标准化流程最大化效率。
|
||||
|
||||
## Core Pattern
|
||||
- 开发者 = 高层控制者(Product Manager / Commander)
|
||||
- Agent = 无面孔、可替换的生产单元(类似于泰勒制中的流水线工人)
|
||||
- 关系 = 控制与执行,而非协作
|
||||
|
||||
## Related Debate
|
||||
- 与 [[Agentic AI]] 的协作型定位(Claude Code、Copilot 等命名伙伴角色)形成鲜明对比
|
||||
- [[AI拟人化谬误]] 提供工具命名和定位如何反映工作价值认知的分析框架
|
||||
|
||||
## Criticism
|
||||
- 简化了开发工作的复杂性和创造性价值
|
||||
- 忽视了开发者作为决策者和创新者的角色
|
||||
- [[Ferdinand]] 指出这种框架缺乏对工作的尊重
|
||||
|
||||
## Related Concepts
|
||||
- [[AI拟人化谬误]]
|
||||
- [[Agentic AI]]
|
||||
- [[多Agent系统]]
|
||||
|
||||
## Sources
|
||||
- [[The-Picture-They-Paint-of-You.md]]
|
||||
26
wiki/concepts/自举Meta生成.md
Normal file
26
wiki/concepts/自举Meta生成.md
Normal file
@@ -0,0 +1,26 @@
|
||||
---
|
||||
title: "自举Meta生成"
|
||||
type: concept
|
||||
tags: []
|
||||
---
|
||||
|
||||
## Definition
|
||||
通过递归优化循环实现系统自我超越的过程:α-提示词(生成器)和 Ω-提示词(优化器)通过迭代不断优化自身,无限逼近理想状态。
|
||||
|
||||
## Bootstrap Cycle
|
||||
1. **创生(Bootstrap)**:用 AI 生成 α-提示词 和 Ω-提示词 的初始版本 (v1)
|
||||
2. **自省与进化(Self-Correction)**:用 Ω-提示词(v1) 优化 α-提示词(v1),得到更强的 α-提示词(v2)
|
||||
3. **创造(Generation)**:用进化后的 α-提示词(v2) 生成所有目标提示词和技能
|
||||
4. **循环与飞跃(Recursive Loop)**:将新生成的产物反馈给系统,启动下一轮进化
|
||||
|
||||
## Relationship to Fixed Points
|
||||
- 稳定生成能力 = Φ 的不动点
|
||||
- 递归优化循环 → 逼近不动点
|
||||
- 不动点 = 自举过程的极限状态
|
||||
|
||||
## Related Concepts
|
||||
- [[固定点语义]]:自举过程的稳定状态定义
|
||||
- [[生成器空间]]:α-提示词 和 Ω-提示词 迭代的空间
|
||||
|
||||
## Sources
|
||||
- [[A-Formalization-of-Recursive-Self-Optimizing-Generative-Systems.md]]
|
||||
25
wiki/concepts/验证器模式.md
Normal file
25
wiki/concepts/验证器模式.md
Normal file
@@ -0,0 +1,25 @@
|
||||
---
|
||||
title: "验证器模式"
|
||||
type: concept
|
||||
tags: []
|
||||
---
|
||||
|
||||
## Definition
|
||||
多智能体系统中 Validator(验证器)检查 Worker 输出质量,不合格则退回的机制。验证器可以是确定性代码(单元测试、JSON Schema 验证)或 LLM 本身。
|
||||
|
||||
## Validation Methods
|
||||
- **确定性代码验证**:单元测试、JSON Schema 验证、正则表达式匹配
|
||||
- **LLM 验证**:单独训练或提示的验证模型判断输出质量
|
||||
- **双模式**:可单独验证每个 Worker 输出,或在汇总所有结果后整体验证
|
||||
|
||||
## Placement in Multi-Agent Patterns
|
||||
- [[层级结构]](Hierarchy):Validator 是关键角色,位于 Planner → Worker → Validator 链路的末端
|
||||
- [[淘汰制]](Knock-out):Validator 决定哪些 Agent 被淘汰
|
||||
- [[对抗辩论]](Adversarial Debate):Watchdog(确定性代码)打破辩论死循环
|
||||
|
||||
## Best Practice
|
||||
- Validator 最好使用与 Generator/Worker 不同的模型(提高质量和客观性)
|
||||
- 验证器可以在同一 LLM 会话中与规划器协作(PLAN → VALIDATION loop)
|
||||
|
||||
## Sources
|
||||
- [[Multi-Agent-System-Reliability.md]]
|
||||
Reference in New Issue
Block a user