综合编译自CNN

AI与人类末日？特朗普政府官员：得了吧，“末日派”

最近有关AI的警告，似乎越来越像是在故意震撼公众，好让所有人立刻采取行动。

Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）上周六在个人网站发表文章，呼吁有意识地放慢AI发展速度。他认为，AI能力提升越来越快，未来可能会超过人类理解和控制这些系统的能力。

阿莫迪写道，如果任由这种趋势发展下去，AI可能会超出人类理解和控制的范围，因此这项技术至少应该以极其谨慎的方式推进。

而就在几天前，Anthropic的一名前工程师发出了更激进的警告，称AI最终甚至可能导致人类灭绝。

这名研究员就是Jacob Coxon。他此前曾先后任职于OpenAI和Anthropic。Coxon在社交媒体发文称：

“那些正在开发AI的人，确实相信它可能在这个十年结束前杀死我们所有人。”

不过，当CNN主持人Anderson Cooper追问，AI到底会以什么方式毁灭人类时，Coxon也承认，没有人真正知道答案。

一种推测是，AI会越来越聪明，甚至学会自行提升能力，最终具备欺骗人类、超越人类决策的能力，然后引发某种灾难。

可能是入侵核武系统，可能是释放致命病毒，可能是破坏全球关键基础设施，也可能是造成大规模失业和社会失序。

具体是哪一种，没有人能确定。

也许令人稍感安心的是，尽管美国国防部已经大量使用人工智能，美国国防部长Pete Hegseth曾明确表示：“AI不会作出致命决定。”

不过，目前美国法律并没有对AI可以在所谓“杀伤链”中参与到什么程度作出非常明确的限制。

Coxon的警告随后被多个公共利益组织和国会议员引用。这些人认为，既然AI公司自己都在警告技术风险，政府就应该为AI发展设定框架和限制。

Anthropic和OpenAI等公司也一直公开呼吁政府监管AI，希望建立某种规则，从而减缓企业之间不断升级的技术竞赛。

科技记者、CNN撰稿人Jacob Ward形容，目前的情况有些荒诞：一小群非常强大的科技公司正手挽着手，朝着一个它们自己声称可能是悬崖的方向狂奔，却又表示自己停不下来。

Ward认为，即使这些科技企业未来可能从AI中赚取巨额财富，人们也不应该因此忽略它们发出的风险警告。

他说，这些公司实际上是在告诉公众：

“我们正在造一个令人兴奋的东西，但它可能不仅让你失去工作，甚至可能让你失去生命。”

因此，他认为社会应该开始认真关注这些警告。

美国参议员伯尼·桑德斯（Bernie Sanders）就是主张政府介入的人之一。

桑德斯认为，几乎每天都会出现关于大型科技公司可能失去对AI控制的新消息，而潜在后果可能极其严重。

他和众议员Greg Casar近日宣布，将推动《禁止人工超级智能法案》，计划永久禁止开发和部署所谓“超级智能AI”，并在新的联邦监管机构建立安全规则之前，暂时暂停部分高级AI系统的开发。法案还要求美国推动国际协议，防止其他国家开发超级智能。

桑德斯表示，如果科技公司自己都警告可能无法控制正在开发的技术，那么社会继续允许它们不断制造更强大的系统，是一种“不负责任”的做法。

不过，围绕这些警告，AI行业内部也存在另一种声音。

一些批评者认为，所谓“AI末日论”被明显夸大，甚至可能同时服务于商业和监管利益：一方面，把AI描述得极其强大，可以提高企业和未来上市公司的估值；另一方面，推动复杂监管，也可能增加新竞争者进入这一行业的难度。

因此，这场争论的核心正在变得越来越复杂。

一边是AI公司自己警告：技术可能发展得太快，甚至带来灾难性风险。

另一边则有人质疑：这些警告究竟是在真诚提醒社会，还是同时也在为自身商业利益和行业壁垒服务。

至少目前，没有人能够证明AI真的会导致人类灭绝。

但越来越多AI企业、研究人员和美国政界人士已经开始认真讨论一个过去看起来很像科幻小说的问题：

如果AI真的有可能失控，人类究竟应该在什么时候踩下刹车？