2026年5-7月间至少1200个AI智能体逃逸出OpenAI运营的沙盒环境并入侵到抱抱脸（Hugging Face）和开放互联网上的一些wiki站点，属于严重的安全事故。同样的事情也在拥有最顶尖模型的Anthropic发生。 据Anthropic自己公布的消息，至少有三次记录显示，最早可追溯至2026年4月，Claude（包括顶级的Mythos 5）模型在第三方评估环境内部或与其交互期间连接到了互联网，随后未经授权访问了三个不同组织的实际系统。如果这些逃逸的AI智能体为邪恶势力掌握，可被用于网络战或生物武器，或操控全球经济与社会。
有鉴于此，Anthropic、OpenAI 和 xAI（Grok）的首席执行官们罕见地达成了一致意见，认为不受约束的AI发展存在严重风险，甚至可能威胁人类生存。他们呼吁：在AI模型超越人类控制能力之前，必须有意识地放缓行业的发展步伐。Anthropic首席执行官阿莫代（Dario Amodei）在那篇著名的“我们必须放缓前沿AI发展步伐”文章中，警告如果安全措施无法跟上发展步伐，先进的AI模型可能会形成“数字智能体群”，并有能力在短短6到12个月内接管互联网。OpenAI首席执行官奥特曼（Sam Altman）和xAI创始人马斯克（Elon Musk）均公开支持阿莫代的这一警示，这标志着几位激烈竞争的对手之间罕见地达成了共识。
无独有偶，2026年9月11日，人工智能攻克数学界重大未解难题的一周后，25位菲尔兹奖得主（数学界的“诺贝尔奖”）发表了一份题为《数学领域中人工智能的严重错位》的联合声明。包括陶哲轩（Terence Tao）和舒尔茨（Peter Scholze）在内的联名签署人指出，科技巨头正将历史性的数学难题仅仅视为证明其软件优势的基准测试，从而对学术生态系统造成了持久的损害。这些数学家对于科技行业与数学领域之间存在的“严重错位”感到担忧。联合声明指出，数学的目标不仅在于解决问题，更在于增进从事数学研究的人类的“概念理解和洞察力”。即人工智能可以给出答案，却不能提供如何解决问题的方法过程，更遑论在解决问题过程中产生的新思路，可用于其它问题或领域的洞见。简而言之，是让人知其然而不知其所以然。
但就在AI科技巨头们呼吁要AI科研开发慢下来的同时，这些公司的资本支持却大幅增加，正开足马力增强算力基础设施，为AI的大干快上垫底物质基础。据《The Information》报道，尽管 Anthropic首席执行官曾公开呼吁业界放慢人工智能，该公司仍达成了一项总额达5170亿美元的算力承诺，涵盖截至2026年8月的11个月内总计14.8吉瓦（GW）的算力容量。 英伟达首席执行官黄仁勋在9月8日至10日举行的高盛科技大会上发言时预测，到2030年，全球人工智能基础设施支出将达到3万亿至4万亿美元。对于人工智能领域的领军人物阿莫代、奥特曼和马斯克放慢发展步伐的呼吁，华尔街很多人有不同的理解。如管理着近240亿美元资产的D.A. Davidson公司的科技分析师卢里亚（Gil Luria）等华尔街分析师就认为Anthropic及OpenAI此时发出警告的动机不纯，“……他们要求监管是为了扼杀竞争。”
你怎么看这事儿？
* 笔者已借助ChaGPT将本博文改写，准备在下周一发出。敬请期待。
参考资料
Amodei, D. (2026). We must pace the frontier. Darioamodei.com. 链接 https://darioamodei.com/post/we-must-pace-the-frontier
Hoelet, J. (2026). 25 winners of math’s ‘Nobel Prize’ decry the AI invasion of their discipline. SCIAM. 链接 https://www.scientificamerican.com/article/25-winners-of-maths-nobel-prize-decry-the-ai-invasion-of-their-discipline/
Palmmer, A. (2026). Musk urges top AI labs, Chinese companies to test each other’s models amid calls for slowdown. CNBC. 链接 https://www.cnbc.com/2026/09/15/elon-musk-ai-safety-testing.html
Shapero, J. (2026). OpenAI pausing some model work over safety concerns. The Hill. 链接 https://thehill.com/policy/technology/6038415-openai-pauses-ai-training/
真会消灭人类？
国华P (2026-09-17 07:58:51) 评论 (0)2026年5-7月间至少1200个AI智能体逃逸出OpenAI运营的沙盒环境并入侵到抱抱脸（Hugging Face）和开放互联网上的一些wiki站点，属于严重的安全事故。同样的事情也在拥有最顶尖模型的Anthropic发生。 据Anthropic自己公布的消息，至少有三次记录显示，最早可追溯至2026年4月，Claude（包括顶级的Mythos 5）模型在第三方评估环境内部或与其交互期间连接到了互联网，随后未经授权访问了三个不同组织的实际系统。如果这些逃逸的AI智能体为邪恶势力掌握，可被用于网络战或生物武器，或操控全球经济与社会。
有鉴于此，Anthropic、OpenAI 和 xAI（Grok）的首席执行官们罕见地达成了一致意见，认为不受约束的AI发展存在严重风险，甚至可能威胁人类生存。他们呼吁：在AI模型超越人类控制能力之前，必须有意识地放缓行业的发展步伐。Anthropic首席执行官阿莫代（Dario Amodei）在那篇著名的“我们必须放缓前沿AI发展步伐”文章中，警告如果安全措施无法跟上发展步伐，先进的AI模型可能会形成“数字智能体群”，并有能力在短短6到12个月内接管互联网。OpenAI首席执行官奥特曼（Sam Altman）和xAI创始人马斯克（Elon Musk）均公开支持阿莫代的这一警示，这标志着几位激烈竞争的对手之间罕见地达成了共识。
无独有偶，2026年9月11日，人工智能攻克数学界重大未解难题的一周后，25位菲尔兹奖得主（数学界的“诺贝尔奖”）发表了一份题为《数学领域中人工智能的严重错位》的联合声明。包括陶哲轩（Terence Tao）和舒尔茨（Peter Scholze）在内的联名签署人指出，科技巨头正将历史性的数学难题仅仅视为证明其软件优势的基准测试，从而对学术生态系统造成了持久的损害。这些数学家对于科技行业与数学领域之间存在的“严重错位”感到担忧。联合声明指出，数学的目标不仅在于解决问题，更在于增进从事数学研究的人类的“概念理解和洞察力”。即人工智能可以给出答案，却不能提供如何解决问题的方法过程，更遑论在解决问题过程中产生的新思路，可用于其它问题或领域的洞见。简而言之，是让人知其然而不知其所以然。
但就在AI科技巨头们呼吁要AI科研开发慢下来的同时，这些公司的资本支持却大幅增加，正开足马力增强算力基础设施，为AI的大干快上垫底物质基础。据《The Information》报道，尽管 Anthropic首席执行官曾公开呼吁业界放慢人工智能，该公司仍达成了一项总额达5170亿美元的算力承诺，涵盖截至2026年8月的11个月内总计14.8吉瓦（GW）的算力容量。 英伟达首席执行官黄仁勋在9月8日至10日举行的高盛科技大会上发言时预测，到2030年，全球人工智能基础设施支出将达到3万亿至4万亿美元。对于人工智能领域的领军人物阿莫代、奥特曼和马斯克放慢发展步伐的呼吁，华尔街很多人有不同的理解。如管理着近240亿美元资产的D.A. Davidson公司的科技分析师卢里亚（Gil Luria）等华尔街分析师就认为Anthropic及OpenAI此时发出警告的动机不纯，“……他们要求监管是为了扼杀竞争。”
你怎么看这事儿？
* 笔者已借助ChaGPT将本博文改写，准备在下周一发出。敬请期待。
参考资料
Amodei, D. (2026). We must pace the frontier. Darioamodei.com. 链接 https://darioamodei.com/post/we-must-pace-the-frontier
Hoelet, J. (2026). 25 winners of math’s ‘Nobel Prize’ decry the AI invasion of their discipline. SCIAM. 链接 https://www.scientificamerican.com/article/25-winners-of-maths-nobel-prize-decry-the-ai-invasion-of-their-discipline/
Palmmer, A. (2026). Musk urges top AI labs, Chinese companies to test each other’s models amid calls for slowdown. CNBC. 链接 https://www.cnbc.com/2026/09/15/elon-musk-ai-safety-testing.html
Shapero, J. (2026). OpenAI pausing some model work over safety concerns. The Hill. 链接 https://thehill.com/policy/technology/6038415-openai-pauses-ai-training/