---
title: "Multi-Agent System Reliability"
type: source
tags: [multi-agent, reliability, architecture]
date: 2026-04-13
---

## Source File
- [[raw/AI/Multi-Agent System Reliability.md]]

## Summary
- 核心主题：提高多智能体系统可靠性的4种架构模式
- 问题域：LLM的随机性、幻觉、上下文漂移导致多Agent系统可靠性下降
- 方法/机制：Hierarchy（规划-执行-验证）、Consensus（投票）、Adversarial Debate（对抗辩论）、Knock-out（淘汰制）
- 结论/价值：停止要求模型"小心"，开始强制模型"正确"——将LLM视为不可靠组件而非智能体

## Key Claims
- LLMs是随机性的，单一答案只是概率分布
- 3个模型同时出现相同幻觉的概率为0.8%（0.2³）
- 4种模式：Hierarchy（规划→执行→验证）、Consensus（多数投票）、Adversarial（生成器vs批评者）、Knock-out（最差者淘汰）
- 不要拟人化LLM——LLM不会死亡或挨饿，无法真正受到威胁

## Key Quotes
> "Don't anthropomorphize LLMs! Find a way to piggy back on their human-corpus training while being aware of their non-biological differences."
> "We don't need AI that 'cares.' We need AI that is constrained, verified, pruned, and challenged."

## Key Concepts
- [[多Agent可靠性模式]]：Hierarchy、Consensus、Adversarial Debate、Knock-out四大架构
- [[共识投票]]：利用多数投票抵消单一模型的随机噪声
- [[对抗式辩论]]：生成器提出方案，批评者攻击，裁判评判
- [[淘汰制]]：最差Agent被淘汰，适者生存
- [[层级结构]]：规划器分配任务，工作器执行，验证器检查

## Key Entities
- [[Alex Ewerlöf]]：作者，资深工程师
- [[Anthropic]]：Claude模型的发布者

## Connections
- [[多Agent可靠性模式]] ← 架构基础 ← [[Alex Ewerlöf]]
- [[共识投票]] ← 模式 ← [[多Agent可靠性模式]]
- [[对抗式辩论]] ← 模式 ← [[多Agent可靠性模式]]
- [[淘汰制]] ← 模式 ← [[多Agent可靠性模式]]
- [[层级结构]] ← 模式 ← [[多Agent可靠性模式]]

## Contradictions
- 无冲突