0918｜子明私享会 当AI攻破数学的防线

子明私享会：当AI攻破数学的防线

发布专栏：知几共话

25 位顶级数学家突然发出 "警告"，AI真的已经逼近人类最核心的领地了吗？如果机器不仅会计算，还会研究、创造甚至提出问题，人类该站在什么位置？AI 会取代我们，还是逼着我们重新定义工作的意义、创造的价值，以及人与机器的关系？

01 AGI何时来？

（9 月 13 日 22:43）

刚看完明公发的文章，有一种黑客帝国即将到来的感觉。

编者注：这里指的是 "子明解读"9 月 13 日发布文章《25 位顶级数学家的呐喊，与一个低保女孩的演唱会门票》。

• 我是觉得超级AI不会降临。AI或许会在未来充斥我们生活的方方面面，但是不要幻想，能够在我们手中诞生一个"全能的神"。
• 我觉得AI是人类的工具，还是取代人类的物种，这个是核心命题，本质就是是否有超级智能，以及能否被控制。通过碳基生物科技创造人类的造物主，其自身的性能，大概率是没有人类先进的。
• 子明：如果有一天，我们看到我们的造物主实际上是一种类似于虫族主宰之类的生物，会不会觉得上帝不过如此。

读者（阿巴瑟）：即时战略游戏《星际争霸 II》中的异虫角色，大概就是这么个玩意，连炼钢都不会的垃圾。

• 那个新闻也挺有意思，其实 Jacob 在 Anthropic 只做了几周，是个 X 的新人，发帖子没两天浏览过亿，在 X/Twitter 历史也是少见。周末 All-in Podcast 的 David Sacks 说这是一起筹划的 PR，为配合 AI 巨头期望监管，这样可以阻挡 open source AI 的发展。
• 子明：三巨头实际上是在进行类似于美苏冷战期间的核不扩散谈判。
• 对于 AGI 时代的很多幻想还处于不确定的状态，比如 AGI 会怎样弄出人类的食物？理论上无限能源和机器人工厂可以制造和复制一切。AI 机器人自己挖矿、冶炼、锻造、组装生产 AI 机器人，这个循环大概多久能实现？
• 子明：五年内。/ 没那么快，世界模型没那么简单。/ 那就十年，这件事上我看不到有什么技术瓶颈是很难突破的。

• 其实对于大一点的组织，AI 只是提升个人效率，组织效率提升有限。参考第一次工业革命的蒸汽机、第二次工业革命的电和内燃机、第三次工业革命的计算机，这玩意刚出来的时候，效率还远不如上一代工业革命。
• 子明：从 GPT3 到现在才过了三年。我们现在的社会结构主体还是按照计算机时代来配置，想要适配 AI 时代，要大刀阔斧的变革。
• 子明：生产关系必然出现巨大调整。生产力的发展，就是人类低效率活动被效率更高的工具替代的过程。人类和人类组织需要找到更高效的运作方式，比如融入工具。生产力关系和社会形态还是工业文明的——民族国家、一夫一妻、劳动创造价值……

02 数学还"存在"吗？

（9 月 14 日 00:12）

• 关于生产关系的调整，比如有了汽车，人类甚至动物的搬运被替代，跑得快力量大的人价值就会大幅降低，人类需要找到新的融合方式。即使是最近攻破千禧年数学题，也是人类先找到这块地可能有矿，让机器饱和式去挖，这样搞出来的。
• 几十个数学家的联合发文，也不是自媒体自以为的担忧 AI 取代数学家，而是 AI 公司这样抢会破坏原来的数学研究生态，组织形式都得重构。我是这么理解的：AI 公司的暴力破解，使得数学家们在科研过程中变成了 AI 的"研究生"，只能负责一些很基础且没意义的核对部分，而数学家们希望的模式是 AI 能够取代自己那些愚蠢的研究生们、提升自己的效率，这是双方的主要矛盾。
• 子明：恰恰相反，现实要的是更高级的数学家，需要能够画出方向让 AI 去暴力测试路径的数学家，而只会做试算的初级数学家、尝试用技巧减少试算的中级数学家，都被淘汰了。至少 NS 问题不是这样的，目前的矛盾是数学家提出方向的、和计算机暴力破解的怎么分蛋糕、算谁的？

编者注：（纳维—斯托克斯）存在性与光滑性问题，也是克雷数学研究所设立的七个 "千禧年大奖难题" 之一。

• 不还是导师和研究生的成果分配嘛。
• 子明：所以说教育和社会组织都得重构。计算机其实就是上万个研究生联合起来，现在抢一作。我是觉得传统数学和 AI 数学，大概就像传统医学和现代医学。
• 有句话叫，智者解谜，天才设谜。其实在解谜过程中，构造出来的各种模型和工具才是数学家研究的本质，数学都是工具。我觉得跟 AI 围棋类似，其实暴力破解的过程中，AI 也会给数学家提供大量的新思路。
• AI 会严重破坏传统数学的生态。就像黎曼几何和矩阵，之前作为就是玩票，结果给相对论力学和计算机提出发明后成为重要工具了。怕的是暴力搞，这个过程中诞生的优秀工具没有了。
• 我能理解他的意思，但我认为他们是固步自封，AI 完全能在过程中搞出来一系列的工具。
• 子明：目前的 AI 远没到能重建工具的地步。其实得改变研究的形式，以后人类就去画框，尝试用 AI 提炼工具。维度越封闭，数学、物理、围棋这样的 AI 就很牛；维度越开放，比如替代顾子明就不行。肯定可以的，我最近的 PPT 都交给 AI 来做了，感觉 AI 在国内政治领域的训练还有欠缺，但未来可期。
• 我认为开放框架、不确定的世界，才是算力起作用的真正意义。比如经济判断，突然会冒出一个新的因素，连锁反应改变一系列的置信度。我准备搭个 AI，把我这几年对自己大脑训练出来的模型吸收后来自己推演，尤其是今年设计了好几个资本市场模型。
• 子明：我觉得面对越开放性的框架，算力面对的不是"算不过来"，是"根本不知道该算什么"。
• 我觉得小看了人工智能的进展，它的想象力和随机性秒杀人类，人类的灵感和直觉、或者说所谓方向感是一定会被替代的。我也是这么觉得的，机器没有那么多人类的思想禁锢。
• 子明：那得机器先有超越人的实践。这和围棋有固定的边界、清晰的目标函数不一样，围棋机器可以抛开人自己学。所以围棋已经没有人类的位置了。数学抛开人类、AI 自己研究指日可待，这也是我的判断。
• 子明：没那么简单，问出问题本身就很难。而 AI 自己找到问题、自己构建工具、解决问题，才叫做抛开人类研究数学。我觉得这个真不一定，AI 在探寻事物配对方面的想象力远超人类，尤其是使用穷举法的方式去找。
• 子明：它的配对目前局限于已有数据提炼的结构中。他提问不难啊，他在穷举过程中能提出很多人类根本没有触达的问题，人类都想不到更别说解决了。
• 问出问题，讲究的是超越数据。当然，如果它有了所有物理宏观微观经济社会数据，那说不定能行，那就相当于有了世界模型、甚至半个世界函数了。比如 23 年中之前东大是通胀，后面变通缩。目前的 AI 自动调框架可不容易，尤其是读人和研究者数据文章的；又比如今年 2 月底特朗普打伊朗，这就是开放性框架的难度。我对现在数学没啥了解，但是古代的那些猜想基本都是沿着观察、归纳、猜想这个路子采的，在观察归纳方面我觉得 AI 是碾压人类的存在。

相关阅读

三巨头发布联合声明

Anthropic 研究员 Jacob Coxon 辞职并公开警告，称头部 AI 公司正在竞逐 "自我改进的超级智能"，其帖子数日内浏览量破亿，引发巨大讨论。随后，Anthropic CEO Dario Amodei 于 9 月 12 日发表《We Must Pace the Frontier》，明确主张放慢前沿 AI 能力提升速度，并提出引入独立第三方安全评估、行业共同安全标准以及国际协调等措施。OpenAI CEO Sam Altman 和马斯克随后公开表示支持，因此媒体将 Anthropic、OpenAI 和马斯克旗下 AI 公司称为 "三大 AI 实验室罕见联手踩刹车"。

25位数学家的警告

2026 年 9 月 11 日，包括陶哲轩、彼得·舒尔茨等在内的 25 位菲尔兹奖得主发布《A Severe Misalignment of AI in Mathematics》。他们并不是简单警告 "AI 会取代数学家"，而是认为：AI 公司把攻克著名数学难题当作能力竞赛和 Benchmark，与数学研究真正追求的 "理解、方法和思想积累" 出现了严重错位。

他们主要担心的是，AI 如果高速批量产出答案，可能跳过数学界原本漫长的讨论、验证、提炼和教学过程；一些成果又被仓促公布，甚至来不及梳理新方法、引用前人工作，从而带来署名、归属和学术生态问题。声明特别强调，数学真正珍贵的不只是 "把题做出来"，而是培养学生、产生新思想，以及让知识在人与人之间传承。