49 lines
2.8 KiB
Markdown
49 lines
2.8 KiB
Markdown
---
|
||
title: "Multi-Agent System Reliability"
|
||
type: source
|
||
tags: ['多Agent', '可靠性', '架构', 'AlexEwerlöf', 'LLM']
|
||
date: 2023-01-09
|
||
source: https://blog.alexewerlof.com/p/multi-agent-system-reliability
|
||
author: Alex Ewerlöf
|
||
---
|
||
|
||
## Source File
|
||
- [[raw/AI/Multi-Agent System Reliability.md]]
|
||
|
||
## Summary
|
||
- 核心主题：4 种多 Agent 系统可靠性架构模式——层级模式、共识模式、对抗辩论模式、淘汰制模式
|
||
- 问题域：LLM 固有的不可靠性（幻觉、逻辑谬误、上下文漂移）在多 Agent 拓扑中会被传播放大，导致系统可用性下降
|
||
- 方法/机制：借鉴人类协作中的可靠性工程思想，将 LLMs 视为分布式系统中的不可靠组件，通过架构设计抑制错误传播
|
||
- 结论/价值：多 Agent 系统的可靠性不是靠提升单个 LLM 能力解决，而是通过拓扑结构设计来实现
|
||
|
||
## Key Claims
|
||
- LLM 不可靠性三大根源：幻觉（hallucination）、逻辑谬误（logical fallacies）、上下文漂移（context drift）
|
||
- 4 种架构模式：
|
||
1. **层级模式（Hierarchy）**：一个编排者（orchestrator）分配任务给多个专业 Agent，编排者验证结果后汇总
|
||
2. **共识模式（Consensus）**：多个同类 Agent 独立处理同一任务，通过投票或多数决得出一致结果
|
||
3. **对抗辩论模式（Adversarial Debate）**：多个 Agent 互相挑战对方观点，最终由评判者（judge）综合做出决策
|
||
4. **淘汰制（Knock-out）**：多个 Agent 串联处理，每轮淘汰最低分者，直到留下最优结果
|
||
- 多 Agent 并行性虽能提升效率，但也会放大调试难度（状态空间指数级增长）
|
||
|
||
## Key Concepts
|
||
- [[多Agent可靠性]]：通过架构设计抑制 LLM 不可靠性的传播
|
||
- [[层级模式]]：编排者-执行者模式，编排者验证并汇总，适合确定性强的工作流
|
||
- [[共识模式]]：多 Agent 独立处理后投票，适用于需要消除单点错误的场景
|
||
- [[对抗辩论模式]]：正反双方辩论+评判者，适合需要多角度分析的高风险决策
|
||
- [[淘汰制]]：串联淘汰机制，适合需要从众多候选中筛选最优结果的场景
|
||
- [[LLM不可靠性]]：幻觉、逻辑谬误、上下文漂移是多 Agent 系统的主要风险来源
|
||
|
||
## Key Entities
|
||
- [[Alex Ewerlöf]]：SRE/可靠性工程师，AI 博客作者，此文源自其 SRE 视角
|
||
- [[LLM]]：底层大语言模型，作为多 Agent 系统的不可靠组件
|
||
|
||
## Connections
|
||
- [[层级模式]] ← is_pattern_of ← [[多Agent可靠性]]
|
||
- [[共识模式]] ← is_pattern_of ← [[多Agent可靠性]]
|
||
- [[对抗辩论模式]] ← is_pattern_of ← [[多Agent可靠性]]
|
||
- [[淘汰制]] ← is_pattern_of ← [[多Agent可靠性]]
|
||
- [[LLM不可靠性]] ← is_problem_of ← [[多Agent可靠性]]
|
||
|
||
## Contradictions
|
||
- （无已知冲突）
|