---
title: "Multi-Agent System Reliability"
type: source
tags: ['多Agent', '可靠性', '架构', 'AlexEwerlöf', 'LLM']
date: 2023-01-09
source: https://blog.alexewerlof.com/p/multi-agent-system-reliability
author: Alex Ewerlöf
---

## Source File
- [[raw/AI/Multi-Agent System Reliability.md]]

## Summary
- 核心主题：4 种多 Agent 系统可靠性架构模式——层级模式、共识模式、对抗辩论模式、淘汰制模式
- 问题域：LLM 固有的不可靠性（幻觉、逻辑谬误、上下文漂移）在多 Agent 拓扑中会被传播放大，导致系统可用性下降
- 方法/机制：借鉴人类协作中的可靠性工程思想，将 LLMs 视为分布式系统中的不可靠组件，通过架构设计抑制错误传播
- 结论/价值：多 Agent 系统的可靠性不是靠提升单个 LLM 能力解决，而是通过拓扑结构设计来实现

## Key Claims
- LLM 不可靠性三大根源：幻觉（hallucination）、逻辑谬误（logical fallacies）、上下文漂移（context drift）
- 4 种架构模式：
  1. **层级模式（Hierarchy）**：一个编排者（orchestrator）分配任务给多个专业 Agent，编排者验证结果后汇总
  2. **共识模式（Consensus）**：多个同类 Agent 独立处理同一任务，通过投票或多数决得出一致结果
  3. **对抗辩论模式（Adversarial Debate）**：多个 Agent 互相挑战对方观点，最终由评判者（judge）综合做出决策
  4. **淘汰制（Knock-out）**：多个 Agent 串联处理，每轮淘汰最低分者，直到留下最优结果
- 多 Agent 并行性虽能提升效率，但也会放大调试难度（状态空间指数级增长）

## Key Concepts
- [[多Agent可靠性]]：通过架构设计抑制 LLM 不可靠性的传播
- [[层级模式]]：编排者-执行者模式，编排者验证并汇总，适合确定性强的工作流
- [[共识模式]]：多 Agent 独立处理后投票，适用于需要消除单点错误的场景
- [[对抗辩论模式]]：正反双方辩论+评判者，适合需要多角度分析的高风险决策
- [[淘汰制]]：串联淘汰机制，适合需要从众多候选中筛选最优结果的场景
- [[LLM不可靠性]]：幻觉、逻辑谬误、上下文漂移是多 Agent 系统的主要风险来源

## Key Entities
- [[Alex Ewerlöf]]：SRE/可靠性工程师，AI 博客作者，此文源自其 SRE 视角
- [[LLM]]：底层大语言模型，作为多 Agent 系统的不可靠组件

## Connections
- [[层级模式]] ← is_pattern_of ← [[多Agent可靠性]]
- [[共识模式]] ← is_pattern_of ← [[多Agent可靠性]]
- [[对抗辩论模式]] ← is_pattern_of ← [[多Agent可靠性]]
- [[淘汰制]] ← is_pattern_of ← [[多Agent可靠性]]
- [[LLM不可靠性]] ← is_problem_of ← [[多Agent可靠性]]

## Contradictions
- （无已知冲突）