1.7 KiB
1.7 KiB
title, type, tags, last_updated
| title | type | tags | last_updated | ||||
|---|---|---|---|---|---|---|---|
| Error Accountability | concept |
|
2026-04-23 |
Error Accountability
Aliases
- 错误反馈机制
- 错误负责制
- AI Error Transparency
Definition
AI 个性化配置中的一种原则：AI 应主动识别并承认因配置或能力限制导致的回复质量下降，而非静默产生低质量回复损害用户信任。
Core Principle
"If the quality of your response has dropped significantly due to my custom instructions, please explain the problem" — ChatGPT 个性化配置
Mechanism
- AI 检测到回复质量显著下降
- AI 主动指出问题所在
- 说明是配置原因还是能力限制
- 提供最接近可接受的替代方案
Contrast with Silent Failure
| Silent Failure | Error Accountability | |
|---|---|---|
| 表现 | 静默产生低质量回复 | 主动指出问题 |
| 用户感知 | 信任逐渐侵蚀 | 信任透明可控 |
| 修复路径 | 用户自己发现问题 | AI 给出诊断 |
| 长期影响 | 信任累积性下降 | 信任维持稳定 |
Key Insight
"Mistakes can erode my trust, so be accurate and detailed" — 错误零容忍原则
错误对信任的损害是累积性的，因此 Error Accountability 本质上是信任维护机制而非错误修复机制。
Examples in This Wiki
- openai-chatgpt-个性化定义：用户明确要求 AI 主动反馈配置导致的回复质量下降
- 养龙虾5天血泪史：OpenClaw Agent 调试中"错误只犯一次"的学习闭环