47 lines
2.1 KiB
Markdown
47 lines
2.1 KiB
Markdown
---
|
||
title: "Multi-Agent System Reliability"
|
||
type: source
|
||
tags: [multi-agent, reliability, architecture]
|
||
date: 2026-04-13
|
||
---
|
||
|
||
## Source File
|
||
- [[raw/AI/Multi-Agent System Reliability.md]]
|
||
|
||
## Summary
|
||
- 核心主题：提高多智能体系统可靠性的4种架构模式
|
||
- 问题域：LLM的随机性、幻觉、上下文漂移导致多Agent系统可靠性下降
|
||
- 方法/机制：Hierarchy（规划-执行-验证）、Consensus（投票）、Adversarial Debate（对抗辩论）、Knock-out（淘汰制）
|
||
- 结论/价值：停止要求模型"小心"，开始强制模型"正确"——将LLM视为不可靠组件而非智能体
|
||
|
||
## Key Claims
|
||
- LLMs是随机性的，单一答案只是概率分布
|
||
- 3个模型同时出现相同幻觉的概率为0.8%（0.2³）
|
||
- 4种模式：Hierarchy（规划→执行→验证）、Consensus（多数投票）、Adversarial（生成器vs批评者）、Knock-out（最差者淘汰）
|
||
- 不要拟人化LLM——LLM不会死亡或挨饿，无法真正受到威胁
|
||
|
||
## Key Quotes
|
||
> "Don't anthropomorphize LLMs! Find a way to piggy back on their human-corpus training while being aware of their non-biological differences."
|
||
> "We don't need AI that 'cares.' We need AI that is constrained, verified, pruned, and challenged."
|
||
|
||
## Key Concepts
|
||
- [[多Agent可靠性模式]]：Hierarchy、Consensus、Adversarial Debate、Knock-out四大架构
|
||
- [[共识投票]]：利用多数投票抵消单一模型的随机噪声
|
||
- [[对抗式辩论]]：生成器提出方案，批评者攻击，裁判评判
|
||
- [[淘汰制]]：最差Agent被淘汰，适者生存
|
||
- [[层级结构]]：规划器分配任务，工作器执行，验证器检查
|
||
|
||
## Key Entities
|
||
- [[Alex Ewerlöf]]：作者，资深工程师
|
||
- [[Anthropic]]：Claude模型的发布者
|
||
|
||
## Connections
|
||
- [[多Agent可靠性模式]] ← 架构基础 ← [[Alex Ewerlöf]]
|
||
- [[共识投票]] ← 模式 ← [[多Agent可靠性模式]]
|
||
- [[对抗式辩论]] ← 模式 ← [[多Agent可靠性模式]]
|
||
- [[淘汰制]] ← 模式 ← [[多Agent可靠性模式]]
|
||
- [[层级结构]] ← 模式 ← [[多Agent可靠性模式]]
|
||
|
||
## Contradictions
|
||
- 无冲突
|