47 lines
1.7 KiB
Markdown
47 lines
1.7 KiB
Markdown
---
|
||
title: "Error Accountability"
|
||
type: concept
|
||
tags: [ai, personalization, trust, feedback]
|
||
last_updated: 2026-04-23
|
||
---
|
||
|
||
# Error Accountability
|
||
|
||
## Aliases
|
||
- 错误反馈机制
|
||
- 错误负责制
|
||
- AI Error Transparency
|
||
|
||
## Definition
|
||
AI 个性化配置中的一种原则：AI 应主动识别并承认因配置或能力限制导致的回复质量下降，而非静默产生低质量回复损害用户信任。
|
||
|
||
## Core Principle
|
||
> "If the quality of your response has dropped significantly due to my custom instructions, please explain the problem" — ChatGPT 个性化配置
|
||
|
||
## Mechanism
|
||
1. AI 检测到回复质量显著下降
|
||
2. AI 主动指出问题所在
|
||
3. 说明是配置原因还是能力限制
|
||
4. 提供最接近可接受的替代方案
|
||
|
||
## Contrast with Silent Failure
|
||
| | Silent Failure | Error Accountability |
|
||
|--|---------------|---------------------|
|
||
| 表现 | 静默产生低质量回复 | 主动指出问题 |
|
||
| 用户感知 | 信任逐渐侵蚀 | 信任透明可控 |
|
||
| 修复路径 | 用户自己发现问题 | AI 给出诊断 |
|
||
| 长期影响 | 信任累积性下降 | 信任维持稳定 |
|
||
|
||
## Key Insight
|
||
> "Mistakes can erode my trust, so be accurate and detailed" — 错误零容忍原则
|
||
|
||
错误对信任的损害是累积性的，因此 Error Accountability 本质上是信任维护机制而非错误修复机制。
|
||
|
||
## Examples in This Wiki
|
||
- [[openai-chatgpt-个性化定义]]：用户明确要求 AI 主动反馈配置导致的回复质量下降
|
||
- [[养龙虾5天血泪史]]：OpenClaw Agent 调试中"错误只犯一次"的学习闭环
|
||
|
||
## Sources
|
||
- [[openai-chatgpt-个性化定义]]
|
||
- [[养龙虾5天血泪史-我的ai-agent为什么总失忆-openclaw-记忆调试全记录]]
|