恐惧的传染

The contagion of fear — simonwillison.net · 1 小时前 · 💡 观点 / 杂谈

前 Anthropic 员工 Jacob Coxon 的一条推文确认了一件颇为惊人的事：许多 Anthropic 研究人员确实相信，AI「可能在本十年结束之前把我们全部杀死」。Bryan Cantrill 对此作出回应，他讲了一个自己年轻时的故事——当年他因为技术上的误判，在缺乏技术背景的同伴中引发了毫无根据的恐慌，事后一直引以为戒，并以此警告今天的 AI 研究者不要重蹈覆辙。Simon Willison 把这段回应摘引出来，标题定为「恐惧的传染」。Cantrill 的措辞很重：这类「食尸鬼式的断言」蛮横地砸向家庭与生活的核心，而考虑到 AI 本身的重要性，它们迅速跃入主流话语并不令人意外。换句话说，问题不在于 AI 风险是否值得讨论，而在于讨论的方式——一个带有明确时间线、指向最极端后果、却几乎无法被证伪的断言，一旦由掌握内部信息的权威人士反复转述，就会脱离证据链，变成一种纯粹的情绪传播。这则短文的价值在于它区分了两种不同的陈述。一种是可检验的技术预测，比如某个模型在某个基准上的表现、某种能力何时出现；另一种是关于他人信念的元层面断言——「很多研究人员相信某件事」。后者几乎无法核实，却因为说话者的身份而获得了近乎事实的地位，并在传播中被进一步简化成「顶尖实验室内部认为 AI 会灭世」。Cantrill 用亲身经历提出的道德要求是：技术专家在公共表达中必须区分「我认为这有可能」与「事情就是这样」，因为恐惧一旦扩散，其社会成本由不具技术背景的普通人承担——他们既无法评估这些断言，也无法退出这场讨论。这正是「传染」这个比喻的锋利之处：恐惧的传播遵循的是流行病学而非认识论的规律，而掌握话语权的人，恰好是它的超级传播者。Simon Willison 长期对 AI 风险话语保持一种双重态度：既不否认存在严重的、现实的安全问题，也对缺乏证据的时间线式末日论调保持怀疑，这则引用正是后一种态度的体现。

核心论点

• Jacob Coxon（前 Anthropic 员工）的推文确认「许多 Anthropic 研究人员相信 AI 可能在本十年结束前杀死我们所有人」——这是一条关于他人信念的元层面断言，而不是关于模型能力的可检验预测；它既无法被外部核实，又因为说话者来自实验室内部而获得近乎事实的权威，并在二次传播中被简化为「顶尖实验室内部认为 AI 会灭世」这样一个更容易被引用、也更难被反驳的版本。
• Bryan Cantrill 用自己年轻时的亲身经历作为类比：他当年因为技术上的误判，在缺乏技术背景的同伴中引发了毫无根据的恐慌，事后深感后悔并引以为戒；他因此警告今天的 AI 研究者不要用同样的方式制造恐惧，并称这类「食尸鬼式的断言」蛮横地砸向家庭与生活的核心，正因为 AI 本身足够重要，这种表达方式才格外具有破坏性。
• 时间线的修辞学是这轮讨论的关键：「本十年结束前」既具体到足以制造紧迫感，又模糊到无法被证伪，这种不可证伪性让末日论调免疫于任何反驳；而它的传播遵循的是流行病学而非认识论的规律——情绪先于证据扩散，掌握内部信息与话语权的人恰恰是最有效的超级传播者，最终承担社会成本的是那些既无法评估这些断言、也无法退出这场讨论的普通人。
• Simon Willison 的立场是双重的：他并不否认 AI 存在严重且现实的风险，但对缺乏证据、带有明确时间线的灭世预言保持怀疑；这则摘引强调的是技术专家的认知责任——必须区分「我认为这有可能」与「事情就是这样」，因为一旦恐惧脱离证据被大规模扩散，它对公共理性的侵蚀远比任何一次具体的技术失误都更难修复。

💡 为什么值得读: 一篇极短的摘引，却把 AI 灭世论的传播机制与专家的认知责任讲得比许多长文更清楚，适合作为讨论 AI 风险话语时的一剂解毒剂。

🏷️ AI safety, Anthropic, risk, fear

---