AI会毁灭人类吗？专家解析生存威胁概率。
“人工智能可能毁灭人类”——这已不再是科幻小说的专属剧情，而是现代社会中挥之不去的恐惧之一。但在这场关于人类存亡的辩论中，一个核心问题浮出水面：在诸多生存威胁并存的世界里，我们该如何评估AI的真实风险？
从生物武器到核按钮：AI的“末日剧本”
据纽约时报报道，一些研究人员警告，AI的潜在危害远超想象：它可能被用来策划生物武器攻击、指挥无人机引发全球战争，甚至触发核武器发射。更令人不安的是，如果AI系统接管了全球经济资源，剥夺人类赖以生存的食物、住房和药品，也可能导致文明的逐步崩溃。
本周，AI公司Anthropic的一名研究员愤而辞职，公开警告称，包括他所在公司在内的多家企业，正在开发人类可能无法控制的超智能机器。这一消息无疑加剧了公众的恐慌。好在，Anthropic周四宣布，已成功挫败了科学家们进行的几项可能促成生物武器研发的研究尝试。
短期恐慌与长期隐患
AI专家将风险分为短期和长期两类。短期来看，缺乏专业技能但怀有恶意的人，可能利用AI制造病毒或有毒物质，引发大规模伤亡。长期来看，真正的危险在于赋予AI过多自主权，并将其接入互联网、电网、股市和军事武器等关键基础设施。一旦这些系统失控，后果不堪设想。
目前，像OpenAI这样的公司还具备“紧急关停”机制，但部分专家担忧，未来的超级AI可能会主动抵制人类的关闭指令。
“病毒才是真正的威胁”
尽管担忧甚嚣尘上，不少科学家认为，人类距离AI失控导致数百万人死亡的场景还很遥远。华盛顿大学教授、艾伦人工智能研究所创始首席执行官奥伦·埃齐奥尼直言：“如果必须在害怕AI逃出实验室杀死数百万人和害怕病毒逃逸并造成同样死亡之间做出选择，那么病毒才是对我真正的威胁。”
人类面临的“生存威胁清单”
事实上，AI并非人类唯一的“催命符”。科学家和公共政策专家指出，人类面临的生存风险清单长得惊人：小行星撞击、大流行病、热核战争、气候变化、生态崩溃、突发冰河时代，以及太阳喷射出的大量带电物质（日冕物质抛射）。
哈佛风险分析中心主任詹姆斯·K·哈米特指出，人类对风险的认知往往存在偏差：我们容易接受习以为常的风险（如车祸），却极度恐惧新技术带来的未知风险。他举例说，人们总觉得坐飞机比开车危险，尽管数据恰恰相反。AI作为一项尚未被完全理解、让人缺乏掌控感的技术，自然成了焦虑的集中点。
甚至，古老的“炭疽”也能成为灭绝工具。科学家计算，如果分配得当，仅需一加仑含有炭疽杆菌的水，理论上就能消灭全人类。
威慑与概率：哪些威胁最紧迫？
好消息是，并非所有威胁都同等紧迫。NASA利用超级计算机评估发现，本世纪内小行星撞击地球、威胁人类生存的概率“接近零”，地球居民在未来一千年里大可不必为此夜不能寐。
科学家们也将导致大多数人类死亡的大流行病风险归类为“低”。牛津大学研究员托比·奥德在《深渊：存在风险与人类的未来》一书中估算，未来100年因大流行引发存在主义灾难的概率约为3%（每30分之一）。
至于AI风险为何显得与众不同？人工智能安全公司Embroidry联合创始人扎克·科尔曼指出，这与“有效利他主义”运动密切相关。在牛津大学等思想中心，许多研究者基于十多年前形成的AI危险性框架来解读当前技术进展，导致担忧被前置。
“夸大其词”与“未雨绸缪”
然而，许多资深研究人员并不认同这种悲观论调。牛津大学人工智能研究员布兰顿·德·莫斯认为，关于AI危险性的争论，仍受深度学习普及前形成的旧有知识框架主导。他在近期文章中分析，全球风险格局正在变化：气候灾难风险降低，核灾难风险增加，而流行病和AI的风险走向则更为复杂，整体水平尚无明确方向。
人类能否避免灾难？
面对重重危机，人类并非束手无策。专家指出，通过实施良好的计划和预警系统，可以显著降低灾难性风险。正如面对一颗飞向地球的小行星，人类很可能会放下分歧，团结一致。
世界终将迈向所谓的“存在性安全”——即存在性风险被控制在极低水平并得以维持的未来状态。届时，人类不仅能化解当前的危机，更能建立起长效机制，确保这些生存威胁不再成为悬在全人类头顶的达摩克利斯之剑。
