AI 正在击穿我们识别专业能力的代理信号

AI is breaking our proxies for expertise — seangoedecke.com · 3 小时前 · 🤖 AI / ML

数学界对 AI 的宽容正在被一件件真正的成果消耗殆尽：当 AI 开始攻克有威望的数学难题时，社会用来识别专家身份的代理信号就失效了。作者提出的核心问题是，我们并不直接观测「专业能力」，而是依赖代理指标（proxies）——谁能解决公认难题、谁在顶刊发表、谁拿奖、谁被同行引用——来分配声誉、经费与信任。近几个月，AI 在解决重大数学问题上的成功打破了这一默契：近五千名数学家，其中包括二十五位菲尔兹奖得主，联署了一份名为《A Severe Misalignment of AI in Mathematics》的宣言。值得注意的是，数学家的文化态度原本比艺术家、作家更开放，他们习惯把计算工具、计算机辅助证明与形式化验证当作合法研究手段，因此这次集体表态并非技术恐惧，而是对评价体系被侵蚀的警觉。作者认为，代理指标之所以有效，是因为它们稀缺且昂贵：解出一道难题需要多年训练与投入，所以难题的解决者自然被当作专家。AI 一旦能以极低成本批量产出这类「证据」，信号就失去区分度，专家与非专家的边界随之模糊，学术优先权、同行评审、招聘与晋升的判断依据都要重新设计。同样的逻辑适用于其他领域：编程面试题、作品集、学历、引用数，都是因为「做出来很难」才具备筛选力，一旦生成成本趋近于零，它们就退化为噪声。宣言所称的「错位」本质上是制度性的：AI 不是在做错数学，而是让数学共同体无法再用旧方式判断谁做对了什么，甚至无法判断某项成果是否在被提示、被训练数据污染之后才「独立」产出。作者的核心观点是，与其争论 AI 是否具备创造力，不如承认代理信号已经断裂，并尽快建立以过程记录、可验证的贡献链条与长期投入为基础的新评估机制。

核心论点

• 近五千名数学家、包括二十五位菲尔兹奖得主联署了《A Severe Misalignment of AI in Mathematics》宣言，这个规模本身就说明它不是边缘抱怨：签名者覆盖数学共同体的核心层，而数学界此前对 AI 的态度明显比艺术家和作家更开放，愿意把 AI 当作计算、搜索与形式化验证的合法工具，因此这次集体表态标志着态度拐点，争议焦点从「AI 能不能做数学」转向「AI 做出来的成果如何被归属、被评价、被计入优先权」。
• 作者的分析框架是「代理信号」：社会无法直接观测专业能力，只能依赖难题被解决、论文被发表、奖项被授予、引用被累积这些可观测替代物，而这些替代物之所以可信，是因为它们稀缺且获取成本极高；AI 把解决难题的边际成本压到接近零之后，信号不再能区分人的能力与机器的输出，招聘、评审、评奖和经费分配所依赖的整套筛选机制随之失效。
• 数学家原本是最不抗拒 AI 的学术群体之一，因为他们长期接受计算机辅助证明、大规模计算与形式化验证作为研究手段；但当被攻克的不再是辅助性计算任务，而是真正有威望、有象征意义的公开难题时，宽容迅速转为焦虑，这说明学界真正在意的不是工具的使用，而是工具输出对声誉分配秩序的冲击，以及人类研究者多年投入被一次模型调用抹平的可能性。
• 在作者看来，可行的补救方向是重建评估机制：把评价重心从「结果是否被产出」转向过程性证据，包括研究者如何提出问题、如何排除错误路径、投入了多长时间、贡献链条是否可验证；这套机制同样适用于软件工程与创意行业，因为凡是靠「做出来很难」来充当能力证明的领域，都会在生成成本崩塌后遭遇同一场信任危机。

💡 为什么值得读: 它把「AI 抢工作」的讨论从岗位层面提升到认识论与制度层面：当验证专业能力的代理信号集体失效，学术声誉、优先权规则和人才筛选机制都必须重新设计，这比任何单点技术进展都更值得提前思考。

🏷️ AI, expertise, mathematics, research

---