随机鹦鹉（Stochastic Parrot）
一句话定义：一个否定性隐喻——认为语言模型只是”依据概率、随机而零散地拼接见过的语言形式，完全不指涉意义”。 它是”LLM 是否只是排字游戏”这个问题的学术出处。
1. 出处与原话
Bender, Gebru, McMillan-Major, Shmitchell（Margaret Mitchell 笔名 Shmargaret Shmitchell），《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜》，FAccT ‘21（ACM 公平、问责与透明会议，2021），DOI: 10.1145/3442188.3445922。
逐字原话（第 616–617 页）：
“Contrary to how it may seem when we observe its output, an LM is a system for haphazardly stitching together sequences of linguistic forms it has observed in its vast training data, according to probabilistic information about how they combine, but without any reference to meaning: a stochastic parrot.”
翻译：与我们观察其输出时可能产生的印象相反，语言模型是一个把它在海量训练数据里见过的语言形式、依据组合概率、随机而零散地拼接起来的系统，完全不指涉任何意义：一只随机鹦鹉。
- 首创归属：Quote Investigator 2021-10 向作者求证，Gebru 把首创权归给 Bender；Bender 回复逐字 “Yep, that was me.”
- 时间线提醒：论文首发于 2021-03 的 FAccT；而围绕其审查、Gebru 离职的争议在 2020-12 已见诸媒体，两者不要混为一谈。
2. 它在争论中的位置
| 阵营 | 立场 |
|---|---|
| Bender 一方（随机鹦鹉） | 只承认形式语言能力（规则/模式），否认功能语言能力（在世界上理解与运用语言） |
| Bubeck 一方（Sparks of AGI） | 主张功能能力已相当程度出现 |
| 中立框架（Mahowald et al.） | 用”形式 vs 功能”两把尺子分别量，把”站队”变成”可测量” |
3. 与中文房间的关系
- 中文房间（Searle, 1980）：哲学层——句法操作本身不足以产生语义。
- 随机鹦鹉（Bender et al., 2021）：把同一疑虑套在”语言模型”这个具体对象上。
两者合起来，构成了”反方”最常用的哲学武器。而”正方”的主要回应是：LLM 能解跨领域新任务、能通过图灵测试（GPT-4.5 胜率 73%，Jones & Bergen, arXiv:2503.23674）。
4. 2026 年的续写：从”懂不懂”到”数据生态”
Jarvis et al., Position: the Stochastic Parrot in the Coal Mine（arXiv:2605.04127, 2026, ICML 立场论文）把”随机鹦鹉”命题重新连接到 模型坍塌（model collapse）——当生成模型在先前模型的输出上训练时的性能退化，以及它对低资源、边缘群体的不成比例伤害。
含义：这场争论已经从”它懂不懂”外溢到”该不该这样造、会造成什么生态后果”。
5. 怎么用它
- 听到”LLM 只是随机鹦鹉”——这是有出处、有分量的批评，不是网络段子，但它是立场性论断，不是已被证实的结论。
- 用它来提醒自己：流畅 ≠ 理解；也提醒自己别走极端：机械可解释性（见 机械可解释性）显示模型内部并非无结构的统计糊。
相关页面
- LLM 真的只是排字游戏吗 —— 完整的分层回答
- 中文房间 —— 哲学原点
- 机械可解释性 —— 反方证据
- 幻觉 —— “有损压缩”的副作用
- 形式能力与功能能力 —— 中立拆解框架
来源
- 《LLM 真的只是排字游戏吗？》理解之争底稿：
processed/LLM排字游戏-理解之争与哲学层数据底稿.md - Bender, Gebru, McMillan-Major, Shmitchell, On the Dangers of Stochastic Parrots, FAccT ‘21, DOI 10.1145/3442188.3445922
- Quote Investigator, 2022-10-07（Bender 首创归属）
- Jarvis et al., arXiv:2605.04127（2026，模型坍塌续篇）