---
title: "Multi-Agent System Reliability"
type: source
tags: [multi-agent, reliability, architecture, LLM]
date: 2023-01-09
---

## Source File
- [[raw/AI/Multi-Agent System Reliability.md]]

## Summary
- 核心主题：多智能体系统可靠性架构模式
- 问题域：LLM的不可靠性（幻觉、逻辑谬误、上下文漂移）导致多智能体系统崩溃
- 方法/机制：层级、共识、对抗辩论、淘汰制四种架构模式
- 结论/价值：将LLM视为分布式系统中不可靠的组件，通过架构设计强制正确性

## Key Claims
- 4种可靠性架构模式：Hierarchy（层级）、Consensus（共识）、Adversarial Debate（对抗辩论）、Knock-out（淘汰制）
- 单一模型20%幻觉率下，3个模型共识投票可将谎言概率降至0.8%
- 不要将LLM拟人化，它们没有死亡恐惧或同理心
- 构建稳健系统需要停止要求模型"小心"，而是强制它正确

## Key Quotes
> "We don't need AI that 'cares.' We need AI that is constrained, verified, pruned, and challenged."

## Key Concepts
- [[层级模式]]：Supervisor规划器分配任务，Worker执行，Validator验证
- [[共识模式]]：多数投票机制降低幻觉概率
- [[对抗辩论]]：Generator提出，Critic攻击，Judge裁决
- [[淘汰制]]：多个agent竞争，验证器淘汰最差者
- [[LLM不可靠性]]：幻觉、逻辑谬误、上下文漂移

## Key Entities
- [[Alex Ewerlöf]]：作者，可靠性工程专家

## Connections
- [[多Agent系统]] ← uses ← [[层级模式]]
- [[多Agent系统]] ← uses ← [[共识模式]]
- [[多Agent系统]] ← uses ← [[对抗辩论]]
- [[多Agent系统]] ← uses ← [[淘汰制]]
- [[可靠性工程]] ← applies_to ← [[多Agent系统]]

## Contradictions