28 lines
1.1 KiB
Markdown
28 lines
1.1 KiB
Markdown
---
|
||
title: "AI拟人化谬误"
|
||
type: concept
|
||
tags: []
|
||
---
|
||
|
||
## Definition
|
||
将 LLM 拟人化（赋予名字、情感、恐惧、动机）是一种设计谬误。LLM 没有生物体的局限性——不会死亡、饥饿或害怕；它们在推理时只存在几秒钟来生成响应，缺乏真正的同理心或情感。
|
||
|
||
## Why It's Wrong
|
||
- LLM 天生的不可靠性（幻觉、逻辑谬误、上下文漂移）与人类不同
|
||
- 对 LLM 的"威胁"或"激励"只是利用训练数据中高风险→高质量输出的相关性
|
||
- 拟人化会掩盖 LLM 真正的问题：将其视为可靠组件而非需要工程保障的系统
|
||
|
||
## The Correct Approach
|
||
- [[Alex Ewerlöf]] 主张：将 LLM 视为分布式系统中不可靠的组件
|
||
- 构建系统时：约束（Constrained）、验证（Verified）、修剪（Pruned）、挑战（Challenged）
|
||
- 不需要"关心"的 AI，需要的是经过工程保障的 AI
|
||
|
||
## Related Concepts
|
||
- [[泰勒主义软件工厂]]
|
||
- [[LLM不可靠性]]
|
||
- [[多Agent可靠性模式]]
|
||
|
||
## Sources
|
||
- [[The-Picture-They-Paint-of-You.md]]
|
||
- [[Multi-Agent-System-Reliability.md]]
|