——当中美都害怕落后，安全便成了无人愿意承担的代价
近日，在洛杉矶举行的一场科技峰会上，英伟达首席执行官黄仁勋当众接到了川普的电话。谈到人工智能可能威胁人类的警告时，川普把这种说法称为“骗局”。
这番话很符合川普一贯的语言风格，在他看来，人工智是一场美国必须赢得的比赛。既然中国正在追赶，美国就不能被风险、监管和伦理讨论束缚手脚。
这的确是问题的关键。人工智能竞赛中最危险的地方，并不是某位领导人不相信风险，而是即使所有领导人都相信风险存在，也没有人敢第一个踩下刹车。
一，对美国来说，人工智能已经不只是一门新技术，而是经济增长、军事优势和全球领导地位的集中体现。
谁掌握最强大的芯片、算力和基础模型，谁就可能主导下一代工业、金融、医疗、情报和武器系统。美国科技公司担心落后于竞争对手，美国政府则担心落后于中国。因此，每当有人提出减缓研发、加强监管，反对者只需问一句：“如果我们停下来，中国会停吗？”讨论往往就此结束。
中国面对的是同样的逻辑。
美国限制先进芯片和制造设备出口，本来是为了延缓中国的发展，却也让中国更加相信：人工智能不是普通的商业竞争，而是关系到国家安全和技术命运的生死之争。美国越是封锁，中国越要自主；美国越是加速，中国越不敢停步。
《晋书·温峤传》中有一句：“今之事势，义无旋踵，骑猛兽安可中下哉！”后来演化成“骑虎难下”。它说的正是：并非不知道猛虎危险，而是一旦骑上去，便不敢先下来，因为下来可能比继续骑着更危险。这与中美人工智能竞赛十分相似。
中美今天都像骑在人工智能这头猛虎之上。骑得越快，风险越大；可是任何一方都不敢先下来，因为谁先下马，谁就可能把技术、产业和军事优势让给对手。于是，明知猛虎可能失控，双方仍只能紧紧抓住虎背，催促它继续向前。
于是，两个国家都可以为自己的加速找到充分理由。美国说不能让中国领先，中国说不能永远受制于美国。双方都声称自己是在被迫应战，而竞赛就在这种相互恐惧中不断升级。
这很像冷战时期的核军备竞赛，却又比核武器更加复杂。
核弹需要庞大的工业设施，试验和部署也较容易被卫星发现。人工智能却可以藏在数据中心、公司实验室和一行行代码里。核武器主要掌握在国家手中，人工智能的推动者却包括政府、军方、大学、资本和彼此竞争的科技公司。即使中美政府达成某种协议，也未必能够准确知道对方研发到了哪一步，更未必能够约束所有企业。
更重要的是，核武器的危险人人都能理解，而人工智能的风险往往发生在真正的灾难到来之前，虚假信息侵蚀选举，算法替代工作岗位，智能系统在金融、电网和军事指挥中取得越来越大的自主权。每一项变化看起来都不足以让一个国家停下来，加在一起，却可能使人类逐渐失去控制。
二，国家对风险的判断，与个人并不相同。个人发现前方可能是悬崖，可以停下脚步；国家却会回头看看竞争对手是否仍在奔跑。对个人而言，安全意味着远离风险；对国家而言，落后本身就是风险，而且是无法接受的风险。
因此，一个国家即使知道前方危险，也可能宁愿冒险前进，而不敢停下来。它可能为了避免落后而甘愿承担风险，为了维护自身安全而制造更大的不安全。这大概就是国家的风险：它并非看不见危险，而是不敢让对手比自己更接近危险中所蕴含的力量。
在人工智能竞赛中，中美真正盘算的都不只是继续发展有没有危险，而是停止发展，会不会比继续冒险更加危险？只要答案是可能会，双方就只能继续加速。于是便出现了一个悖论：每个国家都是为了自身安全而竞争，所有国家却因此变得更加不安全。
人工智能竞赛本质上是一场典型的“囚徒困境”。
对中美双方来说，最理想的结果当然是共同制定规则，在某些高风险领域保持克制。但任何一方都担心：如果我遵守规则，而对方暗中突破，我就会成为输家。因此，从各自立场看，继续加速似乎都是理性的；可当双方都作出同样“理性”的选择，世界得到的却是最危险的结果。
企业之间也是如此。
一家科技公司即使认为新模型存在风险，也会担心竞争对手抢先发布、夺走用户和资本。企业高管可以在公开场合警告人工智能可能失控，回到董事会后却仍要解释为什么公司的产品不能落后。风险由全社会承担，收益却首先属于率先占领市场的公司。这便造成了一个奇怪的局面：越接近人工智能前沿的人，发出的警告越严重；而他们所在的企业，投入的资金也越多。
三，那么，中美联手管控人工智能是不是过于天真？
如果所谓“管控”是让双方停止竞争、相互信任，当然近乎幻想。中美之间在芯片、台湾、军事和全球秩序上的矛盾，不会因为一次峰会而消失。任何一方也不会公开自己的全部技术底牌。
但如果因此认为合作毫无可能，同样是危险的宿命论。美苏在最激烈的冷战时期仍然建立热线、签署军控条约，并逐渐形成避免误判的规则。合作并不需要友谊，只需要双方都认识到：某些失控的后果，没有胜利者。
中美真正可以讨论的，不应是由谁放弃领先，而是哪些底线任何一方都不应跨越。例如，不让人工智能独立决定核武器的使用；在关键军事行动中保留人类最终控制；对能够设计生物武器、发动大规模网络攻击的模型实行更严格测试；为伪造国家领导人命令和制造战争误判的深度合成内容建立识别与核验渠道。
四，人工智能时代最值得担忧的，也许不是机器突然觉醒，决定消灭人类。这种场景过于激进或者不可思议，反而容易使人忽略眼前更现实的危险。
真正的危险可能是：每个国家都作出符合自身利益的决定，每家公司都作出符合股东利益的决定，每一位领导人都害怕在任内失去领先地位；没有人希望灾难发生，却也没有人愿意承担减速的代价。最后，人类不是被一个邪恶的机器打败，而是被自己的竞争逻辑一步步推向失控。
川普下周将与习近平会面。人们当然不能指望两位领导人通过一次会谈就解决人工智能安全问题。但如果世界上最强大的两个国家连最基本的底线都不愿讨论，那么其他国家、国际组织和普通公众更没有能力约束这场竞赛。
谁敢第一个踩刹车？也许这个问题本身就问错了。我们不应等待某一方单独停下来，因为在竞争中，单方面的克制往往难以持久。真正需要的是让双方同时明白：刹车不是投降，安全也不是对手获胜的机会。它是所有参赛者为了不冲出悬崖而共同支付的保险。
如果中美能够建立哪怕最有限的人工智能安全规则，那并不意味着两国从此相互信任，而只是说明它们终于承认了一件常识：一个无法控制的未来，不属于美国，也不属于中国。它将不再属于任何人。
谁敢在人工智能竞赛中第一个踩刹车？
Pilgrim1900 (2026-09-17 07:09:03) 评论 (0)——当中美都害怕落后，安全便成了无人愿意承担的代价
近日，在洛杉矶举行的一场科技峰会上，英伟达首席执行官黄仁勋当众接到了川普的电话。谈到人工智能可能威胁人类的警告时，川普把这种说法称为“骗局”。
这番话很符合川普一贯的语言风格，在他看来，人工智是一场美国必须赢得的比赛。既然中国正在追赶，美国就不能被风险、监管和伦理讨论束缚手脚。
这的确是问题的关键。人工智能竞赛中最危险的地方，并不是某位领导人不相信风险，而是即使所有领导人都相信风险存在，也没有人敢第一个踩下刹车。
一，对美国来说，人工智能已经不只是一门新技术，而是经济增长、军事优势和全球领导地位的集中体现。
谁掌握最强大的芯片、算力和基础模型，谁就可能主导下一代工业、金融、医疗、情报和武器系统。美国科技公司担心落后于竞争对手，美国政府则担心落后于中国。因此，每当有人提出减缓研发、加强监管，反对者只需问一句：“如果我们停下来，中国会停吗？”讨论往往就此结束。
中国面对的是同样的逻辑。
美国限制先进芯片和制造设备出口，本来是为了延缓中国的发展，却也让中国更加相信：人工智能不是普通的商业竞争，而是关系到国家安全和技术命运的生死之争。美国越是封锁，中国越要自主；美国越是加速，中国越不敢停步。
《晋书·温峤传》中有一句：“今之事势，义无旋踵，骑猛兽安可中下哉！”后来演化成“骑虎难下”。它说的正是：并非不知道猛虎危险，而是一旦骑上去，便不敢先下来，因为下来可能比继续骑着更危险。这与中美人工智能竞赛十分相似。
中美今天都像骑在人工智能这头猛虎之上。骑得越快，风险越大；可是任何一方都不敢先下来，因为谁先下马，谁就可能把技术、产业和军事优势让给对手。于是，明知猛虎可能失控，双方仍只能紧紧抓住虎背，催促它继续向前。
于是，两个国家都可以为自己的加速找到充分理由。美国说不能让中国领先，中国说不能永远受制于美国。双方都声称自己是在被迫应战，而竞赛就在这种相互恐惧中不断升级。
这很像冷战时期的核军备竞赛，却又比核武器更加复杂。
核弹需要庞大的工业设施，试验和部署也较容易被卫星发现。人工智能却可以藏在数据中心、公司实验室和一行行代码里。核武器主要掌握在国家手中，人工智能的推动者却包括政府、军方、大学、资本和彼此竞争的科技公司。即使中美政府达成某种协议，也未必能够准确知道对方研发到了哪一步，更未必能够约束所有企业。
更重要的是，核武器的危险人人都能理解，而人工智能的风险往往发生在真正的灾难到来之前，虚假信息侵蚀选举，算法替代工作岗位，智能系统在金融、电网和军事指挥中取得越来越大的自主权。每一项变化看起来都不足以让一个国家停下来，加在一起，却可能使人类逐渐失去控制。
二，国家对风险的判断，与个人并不相同。个人发现前方可能是悬崖，可以停下脚步；国家却会回头看看竞争对手是否仍在奔跑。对个人而言，安全意味着远离风险；对国家而言，落后本身就是风险，而且是无法接受的风险。
因此，一个国家即使知道前方危险，也可能宁愿冒险前进，而不敢停下来。它可能为了避免落后而甘愿承担风险，为了维护自身安全而制造更大的不安全。这大概就是国家的风险：它并非看不见危险，而是不敢让对手比自己更接近危险中所蕴含的力量。
在人工智能竞赛中，中美真正盘算的都不只是继续发展有没有危险，而是停止发展，会不会比继续冒险更加危险？只要答案是可能会，双方就只能继续加速。于是便出现了一个悖论：每个国家都是为了自身安全而竞争，所有国家却因此变得更加不安全。
人工智能竞赛本质上是一场典型的“囚徒困境”。
对中美双方来说，最理想的结果当然是共同制定规则，在某些高风险领域保持克制。但任何一方都担心：如果我遵守规则，而对方暗中突破，我就会成为输家。因此，从各自立场看，继续加速似乎都是理性的；可当双方都作出同样“理性”的选择，世界得到的却是最危险的结果。
企业之间也是如此。
一家科技公司即使认为新模型存在风险，也会担心竞争对手抢先发布、夺走用户和资本。企业高管可以在公开场合警告人工智能可能失控，回到董事会后却仍要解释为什么公司的产品不能落后。风险由全社会承担，收益却首先属于率先占领市场的公司。这便造成了一个奇怪的局面：越接近人工智能前沿的人，发出的警告越严重；而他们所在的企业，投入的资金也越多。
三，那么，中美联手管控人工智能是不是过于天真？
如果所谓“管控”是让双方停止竞争、相互信任，当然近乎幻想。中美之间在芯片、台湾、军事和全球秩序上的矛盾，不会因为一次峰会而消失。任何一方也不会公开自己的全部技术底牌。
但如果因此认为合作毫无可能，同样是危险的宿命论。美苏在最激烈的冷战时期仍然建立热线、签署军控条约，并逐渐形成避免误判的规则。合作并不需要友谊，只需要双方都认识到：某些失控的后果，没有胜利者。
中美真正可以讨论的，不应是由谁放弃领先，而是哪些底线任何一方都不应跨越。例如，不让人工智能独立决定核武器的使用；在关键军事行动中保留人类最终控制；对能够设计生物武器、发动大规模网络攻击的模型实行更严格测试；为伪造国家领导人命令和制造战争误判的深度合成内容建立识别与核验渠道。
四，人工智能时代最值得担忧的，也许不是机器突然觉醒，决定消灭人类。这种场景过于激进或者不可思议，反而容易使人忽略眼前更现实的危险。
真正的危险可能是：每个国家都作出符合自身利益的决定，每家公司都作出符合股东利益的决定，每一位领导人都害怕在任内失去领先地位；没有人希望灾难发生，却也没有人愿意承担减速的代价。最后，人类不是被一个邪恶的机器打败，而是被自己的竞争逻辑一步步推向失控。
川普下周将与习近平会面。人们当然不能指望两位领导人通过一次会谈就解决人工智能安全问题。但如果世界上最强大的两个国家连最基本的底线都不愿讨论，那么其他国家、国际组织和普通公众更没有能力约束这场竞赛。
谁敢第一个踩刹车？也许这个问题本身就问错了。我们不应等待某一方单独停下来，因为在竞争中，单方面的克制往往难以持久。真正需要的是让双方同时明白：刹车不是投降，安全也不是对手获胜的机会。它是所有参赛者为了不冲出悬崖而共同支付的保险。
如果中美能够建立哪怕最有限的人工智能安全规则，那并不意味着两国从此相互信任，而只是说明它们终于承认了一件常识：一个无法控制的未来，不属于美国，也不属于中国。它将不再属于任何人。