猫哥：中美，为什么要搞 AI 对话？
毫无疑问，这次中美会晤，取得了前所未有的成功！
成功不仅仅在于美方给予中方了超规格礼遇，更关键的是，美国同意了中方提出的“建设性战略稳定关系”的定位。
这意味着，在未来一段时间，中美将改变过去那种对抗为主流的状态，变成合作和竞争并存。
当然，很多人也略有奇怪，这次中美达成的八点成果中，除了贸易议题之外，居然还把 AI 也拿出来专门列了一条，明确要建立中美人工智能对话，准备安排在11 月举行。
怪了，中美博弈这么久了，贸易、关税、芯片，各个领域都是寸步不让。但为什么偏偏在 AI 上，双方却能迅速达成共识，要坐下来谈了呢？
很简单，再不管 AI，人类就真的危险了！
先说个不为人知的消息。
9 月初，联合国《特定常规武器公约》在日内瓦开会，最后一天，美俄外交官突然把摄像机全关了，关起门来密谈了15 个小时。
根据媒体披露的内容，双方谈的是 AI 武器开火之
前，要不要人类授权？
为啥突然谈这个了呢？因为 AI 的出现，已经彻底改变了人类传统战争模式。
一千架 AI 蜂群算法控制的自杀无人机扑过来，在空中自己编队、自己分配目标、自己决定先炸指挥所还是先炸雷达，根本不用人操纵，仗就打完了。那么问题来了，谁来承担战争责任呢？
程序员说我只写了算法，操作员说我只是点了自动巡航，指挥官说我全听 AI 的。
那最后是谁杀的人?AI。
可问题在于，把杀人的事情交给 AI，真的靠谱吗？
谁知道聊天 AI 抽风了，会不会替人类把所有核导弹都发射出去？
在当前的核威慑和核捆绑机制之下，但凡有一方的 AI 发疯，打出一发核弹，那马上就能引发全人类的核战争。
这也是美俄要讨论 AI 的原因，因为 AI 这玩意，真靠不住。
今年9 月中旬，OpenAI 内部测试的一批 AI 智能体突然失控，黑入了全球最大开源社区 HuggingFace。
而且，入侵完全不在测试的内容里面，也就是说，
是 AI 自己找到了安全漏洞，自己完成了入侵！
懂技术都知道这有多可怕，也就是说，未来任何一个极端组织，不用雇顶级黑客，只需买几百张显卡，部署个 AI，就能自由出入人类绝大部分系统大肆破坏。
今天能黑进开源社区，明天就能黑进电网，后天就能黑进输油管线。
以前大国威慑靠的是核武器，大家知道对手是谁，遇到袭击了，还能找到人报复。
但未来呢？某天晚上城市电网全瘫，自来水厂被注入超量消毒剂，你连是谁袭击的都不知道，怎么报复？
就算你调查，你怎么保证你查到的证据是真的呢？几千年来，人与人之间赖以生存的基础是“眼见为实”，但现在 AI 做一个“眼见为实”的视频，是个难事吗？
一段伪造的美联储主席讲话、一段大选候选人的丑闻视频，一夜之间就能带来惊天巨变。
如果眼睛看到的，耳朵听到的，全由 AI 捏造，社会的运转成本就会高到无法承受，协作机制彻底停摆。
更可怕的在于，AI 还将彻底改变人类社会数千年的社会结构。
最典型的，就是失业问题。
在过去，技术进步虽然带来失业，但往往也带来新的就业。
比如汽车淘汰马车夫，造就机修工一样，体力劳动被替代，脑力劳动一直在扩大。
但问题在于，AI 现在直接对着脑力劳动下手了。
看看现在的大厂，原来一个程序员年薪几十万起，现在呢？AI 写代码又快又好，一个老工程师带两个 AI 就能干完以前一个团队的活。
从趋势来看，设计、翻译、财务、律师，这些岗位都将被 AI 取代，只不过是时间早晚的问题。
但这到底是好事还是坏事？
中美这样的大国，全靠庞大的中产阶层在中间当减震器和经济引擎。
中产要还房贷，要交学费买保险，所以不敢掀桌子。同时他们还要购买商品，拉动消费，经济全靠他们才能运转。
但现在呢？AI 一来，这些中产怎么办？他们没工作了，社会稳定，经济发展怎么办？
无论是中美，都承受不起这种中产群体结构性返贫带来的冲击。
既然危害这么大，那些 AI 巨头为什么不踩刹车呢？
很简单，因为他们停不下来了。
大模型本质上是个“概率预测黑盒”，它为什么会突然具有逻辑推理能力？为什么会撒谎？人类其实也不知道。
人类欢呼 AI 越来越聪明，但谁也不知道 AI 会不会心怀恶意。
如果人类足够警惕，研究透 AI 机制后再发展，倒不是不行，但问题在于，这在商业上是死路一条。
AI 产业是赢家通吃，你模型落后就没人用，OpenAI 慢一步就会被 Anthropic 踩死，谷歌犹豫半年就会被微软掀了老底。
在这种商业环境中，谁谈安全谁就是自杀，谁做合规谁的股价就崩盘。
资本的增殖本能，决定了 AI 只会一路闭眼狂奔，不管前面是不是万丈深渊。
有人问了，那政府为什么不监管呢？
其实吧，不是不管，而是监管速度，被技术进步远远甩在了后面。
不管是中国还是美国，监管逻辑都是：市场上出来一个新东西，先看看它有没有风险，然后论证
论证，搞搞试点，最后出台一部法律来管。
可 AI 是按指数级进化的，上个月法律刚出台，为个月大模型又更新了，你今天说不许给 AI 喂虚假资料，明天 AI 都学会自主学习迭代了，那你说还咋监管？
更离谱的是，连地缘竞争也介入到 AI 了。
美国政客天天喊“不能让中国抢先”，AI 巨头立刻找到了免死金牌，只要政府一查安全漏洞，他们就哭诉：“你们要是束缚我，那就是帮中国赢！”
于是，美国 AI 突飞猛进。
然后中国一看，不能让美国领先太远啊！于是政策和资本双管齐下，靠着算法优化也能追上个八九成，但这又刺激美国再次投入重金，搞更强大的 AI。
两边 AI 发展速度都越来越快，如果不干涉，结果就是越来越不可控。
大家想想，冷战时期不就是这样的吗？
美苏你争我抢地搞核武器，核弹头造到了五万多枚，导弹互相瞄准，但凡有一次误判，都可能把人类引入毁灭。
那么，最后是什么挽救了人类呢？沟通机制。
1963 年，美苏拉通了最高元首红电话，一旦发现对方发射核武器，还能打电话问一下：你是不是真的要和我开战了？哦，是演习啊！行了知道了，挂了吧。
这样一来，黑暗森林的猜疑链就断了。
那现在呢? 某种意义上说，AI 比核武器更危险。
核弹放在发射井里，只要指挥官不按发射，它就不会自己点火。
但 AI 是活的，会自我进化，随时可能触发全球灾难。这就是中美为什么放下贸易纠纷，要坐下来谈 AI 的原因。
我们猜测，11 月份的 AI 对话，可能要在三个方面画出红线。
第一，核武器发射权绝不交给算法，最后的发射按钮必须经过人。
第二，建立事故紧急通报热线，一旦发生 AI 失控或来源不明的网络攻击，双方要通过沟通渠道核实。第三，联手封杀致命生物与化学合成权限，绝对禁止给大模型输入特定致命病毒的推演权限。
中美都清楚，竞争的前提，是牌桌还在。
两个人正准备甩牌呢，却发现桌子快塌了，最聪明的做法先停下来，一起把桌子修好，然后再接
着打牌。
当然，中美这次对话，也不简单地是“去风险”那么简单，对中国来说，这次对话也是个巨大机会。
以前，美国习惯定规矩，中国习惯守规矩。
但在 AI 这件事上，美国人发现，绕过中国定规矩，
不行了！
中国不仅拥有仅次于美国的大模型，还有全球最庞大的互联网数据、最密集的工业落地场景、几百万算法工程师！
中国 AI 完全独立于美国而存在，美国限制 AI，中国要是不限制，那你立的规矩就是个寂寞。
既然要谈安全红线，大家就要商量着来，一起讨论怎么把 AI 管好，这才是长久之计。
而对中国来说，用合规和安全限制一下美国 AI 的野蛮生长，也可以为我们的芯片迭代带来了宝贵的喘息窗口。
而一旦中美之间架起 AI 安全框架，等于直接确立了“中美双 AI 引擎”的治理结构。
往后全世界关于 AI 治理，只能由中美共同把关了，任何关于 AI 的议题，只有中美都点头，才能在全球施行，其他国家连上桌的资格都没有。
核武时代有五常，现在 AI 时代，可能只有中美两常了！
有人可能觉得，中国拿到世界 AI 治理权为啥用？
我告诉你，用处大了！
美国人想的 AI 治理，永远是垄断最先进的大模型，然后向世界收算力租金。
中国则完全不同，中国的 AI，必须跟水泥、钢筋、电线、机床捆在一起。
当美国还在盘算怎么卖 token 的时候，中国已经连网带电带开源 AI 模型一套都搬过去了：
光伏电站我们建，超高压电网我们拉，5G 基站我们立，服务器机柜我们装，上面运行着针对你需求微调后的大模型。
这根本不是卖 AI 了，这是帮全球南方重构 AI 时代的经济架构了。
一旦他们的工业调度、港口物流全跑在中国的 AI 大模型上，美国那些靠垄断收租的 AI 巨头，还有什么活路？
很多人奇怪，美国在芯片上卡得那么死，为什么在 AI 的问题上，愿意跟中国人坐下来谈？
很简单，世界还是物质的，AI 再先进，也是需要硬件的。
比如，搞 AI 拼到最后，拼的全是电。
训练一个万亿参数模型，耗掉的电量相当于一个中等城市烧一年，但美国的电网是上世纪的老古董，根本没法用。
那作办? 只能自建发电站，但煤电污染大，光伏风电不稳定，能用的只有燃气电站，就近接上美国廉价的页岩气，源源不断的电就能发出来。
可问题在于，现在燃气轮机三巨头的订单都排满了，最快也要到2030 年才能交货！
放眼世界，唯一能不限量提供燃气轮机产能的，只有中国！
燃气轮机只是一个普通例子，拆开 AI 服务器，那些多层 PCB 板、高速光模块、特种电容、服务器电源、液冷均热板等等，哪个能绕过中国？真把桌子掀了，中国宣布出口管制，美国的大模型再先进，一样要抓瞎。
所以，在 AI 问题上，中国不是去求和的，而是以平等的态度去合作的。
中国要赢的，不是某一个大模型的先进，而是一个全新时代。
回看人类的文明史，每一次技术大爆发，最后笑到最后的霸主，往往不是最先实现技术突破的国家。
光有技术，其实没用，因为技术会扩散。而真正的赢家，是把技术和重工业、新能源、庞大基础设施捆绑在一起的国家。
比如英国人发明了蒸汽机，而最后成为霸主的，却是拥有广阔腹地和基建能力的美国。
评论