AI 开始产出好想法之后：我们需要更多数学家

一个所有人都会经历的时刻

9 月 24 日，陶哲轩（Terence Tao）的博客刊出一篇客座文章，作者是 UCLA 计算机科学教授 Amit Sahai。文章从一段回忆开始：他还是本科生时，身边不少同学觉得顶尖学生理解新数学概念的速度快得离谱——他们也能理解，只是慢得多，最后几乎都放弃了做研究数学的念头。"过去这几天，我一直在想这些学生。"

然后他给出判断：我们正在进入一个需要谦卑的时代，所有人都将体会到跟不上的感觉。他接触过的 AI 系统已经在产出漂亮的新想法，远不止算得快、或把人已经理解的论证快速跑一遍。

放弃理解，是一种集体失职

如果跟不上就退出，会发生什么？作者说，对研究数学的群体而言，放弃 "理解" 这份工作是对人类责任的一种让渡。每个人都有权选择别的人生，但责任是集体的：建设一个人类还能理解、还能参与的未来，一个人类仍保有实际决定权的未来。

他举了一个具体的假想：未来某个 AI 提出一种前所未有的 1 太瓦核聚变电站设计，承诺廉价清洁的电力，机器人随时准备制造部件。1 太瓦是疯狂的量级，要批准建造，就得理解它为什么有效、失效如何被约束、停机时已储存的能量去向何方、材料是否如预期。这个设计的 "新"，恰恰意味着我们无法从几十年的同类运行经验里继承信心。

不是要人类手工重做

他引用一篇 Nature 论文提醒：人的参与并不自动让技术决策更好。他也不主张人类必须手工重做 AI 可能更可靠完成的工作，包括给出数学证明。但一个定理只存在于模型之内；理解这条保证，意味着理解模型本身、它的实验证据，以及我们对模型准确性的不确定。这是很硬的工作，必须有具备数学素养的人在旁边。他还补了一条容易被忽略的理由：这种理解不能只属于提出技术的那个组织——听证会上如果只有提案公司的专家能跟上技术论证，独立意见就缺位了。

提议：可调用的智力储备

他给出的方案叫 "可调用的智力储备"（deployable intellectual reserve）：一批有数学素养的人，可以成建制地被调用，去理解那些影响重大的 AI 突破。设想许多研究小组各自获得稳定支持，花一个学期或一年，借助 AI 去理解 AI 产出的整套非凡想法——他认为这很可能是未来若干年里最重要的数学工作之一。

文章最后的重心落在 "人" 上：人的生物性决定了理解需要时间；单个人能承担的有限，但认真协作可以多做很多。如果 AI 兑现了它的承诺，我们会遇到比以往更美、后果更大的想法——那就得建起能一起理解它们的共同体。

对做企业数字化的启发

"理解" 这件事在企业里同样被低估。不少团队上 AI 的路径是：直接采信输出、直接上线、出事再回滚，全程没有人能解释为什么这样是对的。这篇文章给出的标准更严一点：把 "能解释为什么" 当成交付的一部分——这套东西依赖什么前提、边界在哪里、什么情况下不该相信它。

对做交付的小团队，这意味着交付清单要多一项：不是只给一个能跑的系统，还要给一份 "它为什么能跑、什么时候不该信它" 的说明。这份能力比写代码更难被自动化替代，因为它要的是判断和承担。